“Yapay zeka destekli göç sistemi adaletsizliğe neden olur”

15 Kasım 2024

İngiltere’de mülteci ve sığınmacı hakları konusunda çalışmalar yürüten bazı sivil toplum kuruluşları (STK), sığınmacılarla ilgili kararlar almaya yardım edecek yapay zeka sisteminin adaletsizliklere neden olabileceği uyarısı yaptı.

The Guardian’da yer alan habere göre İçişleri Bakanlığının sığınma talepleri, sığınmacıların durumları ve haklarına ilişkin kararları verecek “robot memurlarıyla” ilgili detaylar ortaya çıkmaya başladı.

Buna göre Göçmenlik Başvurularını Belirleme ve Önceleme (IPIC) adı verilen yapay zeka destekli sistem, sığınmacılara ait kimlik, adli sicil, ırk, din ve sağlık bilgilerine göre hangi sığınma taleplerinin kabul edileceğinden, hangi sığınmacının ülkesine iade edileceğine kadar kararlar verecek.

Hakkında sınır dışı edilme kararı verilmiş 41 bin sığınmacıyla birlikte on binlerce sığınma başvurusu sonucu bekleyen kişilerin biriken dosyalarını karara bağlamak üzere kullanılacak yapay zeka sistemleri, sığınmacı ve mülteci hakları örgütlerine göre ise adaletsizliğe sebep olabilecek.

Gizlilik ihlallerini araştıran Privacy International isimli sivil toplum örgütünden yapılan açıklamada IPIC denetiminden geçen dosyaların İçişleri Bakanlığı memurlarınca incelenmeden onaylanacağı riskine dikkat çekildi.

Bunun memurlar için kolay bir yol olacağına işaret eden Privacy International, bir sığınmacıyı sınır dışı ederken uygulanacak işlemlerin yapay zeka sayesinde azalacağı ve sadece sistem kararının onaylanmasıyla tamamlanacağını ifade etti.

Privacy International avukatı Jonah Mendelsohn, “Göç sisteminde bulunan bir kişi, yapay zekanın kendi dosyalarında nasıl hareket ettiğini ve onlarla ilgili yanlış bir karar verme riski bulunup bulunmadığını bilmiyor.

Algoritmanın şeffaflığı ve hesap verebilirliği üzerine güncellemeler yapılmadıkça göç sistemi adaletsizlik kodlamaya devam edecek.”

Göçmen Hakları Ağı Başkanı Fizza Qureshi de IPIC’nin önyargılı olacağına dikkati çekerek IPIC’yeçok büyük bir bilgi yüklenecek.

Bu verileri toplamak için diğer hükümet kurumlarıyla veri paylaşımının artması gerekiyor. Bu da göçmenlerin izleneceği ve mahremiyet ihlallerinin artacağını gösteriyor.” değerlendirmesinde bulundu.

Oxford Üniversitesi Göç İzleme Merkezi Direktörü Madeleine Sumption ise yapay zeka sistemlerinin sığınma talebinde bulunanların belirsizlik içinde uzun süre beklemesinin önüne geçecek hıza sahip olduğunu ifade ederken şeffaflığın önemine vurgu yaptı.