İngiliz YZ Güvenlik Enstitüsü, Silikon Vadisi’nde şube açacak

20 Mayıs 2024

Sektördeki uzmanlar, planın ‘hayal kırıklığına uğramış’ şirketlerle ilişkilerin onarılmasına yardımcı olabileceğini öne sürüyor.

Hükümet, teknolojiyi geliştiren şirketlere daha yakın olmak amacıyla bu yaz Silikon Vadisi’nde yeni Yapay Zeka Güvenlik Enstitüsü’nün bir şubesini açıyor.

Teknoloji departmanından yapılan açıklamaya göre bu plan, enstitünün Amerika’daki muadiliyle bu yıl imzalanan mevcut bir ortaklığa dayanırken, 32 kişinin çalıştığı Londra’daki merkeze ek olacak.

Teknoloji Bakanı Michelle Donelan planı, bölgedeki teknoloji yeteneklerinden faydalanmanın ve “kamu yararına yapay zeka güvenliğini ilerletmek için” ABD ile ilişkileri güçlendirmenin bir yolu olarak nitelendirdi. Donelan, “Kapılarımızı yurtdışına açmak ve ABD ile ittifakımızı geliştirmek, bu hafta Seul zirvesinde tartışacağımız YZ güvenliği konusunda yeni, uluslararası standartlar belirleme planımın merkezinde yer alıyor” dedi.

Duyuru, İngiltere’deki enstitünün, incelediği tüm modellerin oldukça basit istemlerle “jailbreak” olarak bilinen zehirli içerik üretmeye açık olduğunu ortaya koyan bulguları yayınlamasıyla birlikte geldi. Sektörün içinden kişiler, incelenen yapay zeka laboratuarlarının enstitünün kendilerine yaklaşım biçimi ve istedikleri bilgiler karşısında “hayal kırıklığına uğradıklarını” söyledi. Silikon Vadisi’nde bir birim açmanın ilişkileri onarmak için bir yol olabileceğine inanıyorlar.

Bir yatırımcı ve girişimci olan Ian Hogarth tarafından yönetilen bu birim, en gelişmiş yapay zeka sistemlerini incelemek ve bunların sorumlu bir şekilde geliştirilip kullanılmasını sağlamak üzere Ekim ayında kuruldu. Birim, YZ’nin insan kontrolünden kaçıp kaçamayacağı, biyoloji ve kimyada uzman düzeyinde kontrole sahip olup olmadığı ya da siber saldırılar için kullanılıp kullanılamayacağı gibi potansiyel riskleri tespit ediyor.

Ekipte daha önce OpenAI ve Google DeepMind’da çalışan Geoffrey Irving, Oxford’da makine öğrenimi doçenti Yarin Gal ve Oxford’da bilişsel sinirbilim profesörü ve daha önce Google DeepMind’da çalışan Chris Summerfield yer alıyor.

Enstitü, yapay zekayı “güvenli” veya “güvensiz” olarak etiketlemek yerine, hükümete analiz ve araştırma sunarak, hem hükümetin hem de halkın teknolojiyi daha iyi anlamasını sağlıyor.

Tony Blair Küresel Değişim Enstitüsü ve Faculty AI tarafından yapılan analiz, hükümetin yapay zekayı doğru bir şekilde benimsemesi halinde beş yıl içinde 200 milyar sterline kadar tasarruf edebileceğini tahmin ediyor. Tony Blair ve Faculty CEO’su Marc Warner, rapora yazdıkları ortak önsözde, “yapay zeka konusunda kendini ön plana çıkarmak ve bu yeni çağda yönetim konusunda liderlik sağlamak için kendi hırslarına sahip olması gereken Birleşik Krallık’a potansiyel bir ödül” gördüklerini söylediler ve eklediler: “Yapay zeka devleti yeniden tasarlamamıza yardımcı olabilir. Devletteki sayısız günlük görevin çoğu, kitlesel ölçekte yürütülen tekrarlanabilir süreçlerdir. Bunların neredeyse tamamı daha iyi, daha hızlı ve daha ucuz hale getirilebilir.”