Microsoft’un kurucu ortağı ve teknoloji dünyasının en etkili isimlerinden Bill Gates, yapay zeka teknolojisinin kötü niyetli ellerde bir milyara yakın insanın ölümüne yol açabilecek kadar tehlikeli bir silaha dönüşebileceği uyarısında bulundu.
NBC News’a açıklamalarda bulunan Gates, en son yapay zeka araçlarıyla donatılmış kötü niyetli kişilerin oluşturduğu kombinasyon kadar güçlü bir silahın tarihte hiç görülmediğini belirtti. Gates, bu teknolojinin “bir milyar ölçekli olayları tetikleyecek kadar güçlü” olabileceğini ifade etti.
Güvenlik önlemleri ve denetim mekanizmalarının oluşturulması için kolluk kuvvetlerinin ve siyasetçilerin derhal sürece dahil olması gerektiğini vurgulayan Gates, bunun sektör için küçük bir maliyet kalemi (“overhead”) yaratacağını, ancak çalışmaların hızını dramatik ölçüde kesmeyeceğini kaydetti.
“Acil Durum Düğmesi” Tek Başına Yeterli Değil
Yapay zekanın kontrol altına alınması için bir “acil durdurma tuşunun (kill switch) yeterli olmayacağını belirten Gates, sistemlerin henüz bilgisayarları özerk bir şekilde ele geçirip kapatılamaz hale geldiği bir aşamada olmadığını, bu yöndeki tartışmaların ise konuya yabancı kesimlerin teknik gerçeklikten uzaklığını gösterdiğini dile getirdi.
Yapay zeka modellerinin sıkı bir şekilde denetlenmemesi halinde insanlığın sonunu getirebileceği yönündeki uyarılar sektörde artış gösterirken, Axios tarafından yayımlanan yakın tarihli bir rapor, yapay zekanın kontrol dışına çıktığı vakaların binlerce kez yaşandığına dikkat çekiyor.
Uzmanlardan ve Etikçilerden Tepkiler
Metro gazetesine konuşan uzmanlar, halihazırda e-posta yazan ve standart içerikler üreten yapay zeka sistemlerinin kitlesel bir yok oluşu tetiklemesinden uzak olduğunu, ancak nükleer kodların kontrolünün verilmesi veya kötüye kullanım durumlarında ciddi tehditler oluşturabileceğini belirtiyor.
Edinburgh Üniversitesi Yapay Zeka Etiği Profesörü Shannon Vallor ise kıyamet senaryolarına mesafeli yaklaşıyor:
“Bir milyar ölüm son derece düşük bir ihtimaldir, ancak daha küçük ve gerçekçi bir rakam da kabul edilebilir olduğu anlamına gelmez. Neden ölümleri saymaya ancak bir milyarda başlamalıyız?” diyen Vallor, Gates’in “yanlış ellerdeki yapay zeka” söyleminin, pazar hakimiyeti peşinde koşarken her adımda güvenliği ikinci plana atan ve düzenlemelerden kaçınan yapay zeka şirketlerinin sorumluluğunu perdelediğini savundu.
Şüpheciler, “tüm insanlığı yok eder” söyleminin abartılı olduğunu ve yapay zeka firmalarının kendi modellerinin nasıl denetleneceği konusunda aşırı söz sahibi olmasına yol açabileceğini ifade ediyor. Eski Google çalışanı Timnit Gebru ise Wired dergisine yaptığı açıklamada, bu tür distopik vizyonların insanları otonom silahlar gibi güncel ve somut tehlikelerden uzaklaştırdığını belirtti.











