BBC’nin ulaştığı kurum içi belgeler ve itirafçı beyanları; sosyal medya devlerinin, Tik-Tok ile rekabet edebilmek adına güvenlik önlemlerini hiçe saydığını ve kullanıcıları radikalleştiren “sınırda içeriklere” göz yumduğunu ortaya koydu.
Bir düzineden fazla itirafçı ve şirket içi belgelere dayandırılan haber, teknoloji devlerinin kâr hırsı ve rekabet uğruna şiddet, cinsel şantaj ve terörizm gibi ağır dosyalarda dahi riskli kararlar aldığını ortaya çıkardı.
Meta bünyesinde çalışan bir mühendisin itiraflarına göre, şirket yönetimi hisse fiyatlarındaki düşüşü gerekçe göstererek, normalde kısıtlanması gereken “sınırda” (borderline) içeriklerin –kadın düşmanlığı ve komplo teorileri gibi– kullanıcı akışlarında daha fazla yer almasına izin verdi.
Reels “aceleyle” piyasaya sürülmüş Şirketin eski kıdemli araştırmacısı Matt Motyl ise Instagram Reels’ın 2020 yılında yeterli güvenlik mekanizmaları kurulmadan aceleyle piyasaya sürüldüğünü belirtti.
Motyl tarafından paylaşılan dahili veriler, Reels platformundaki zorbalık, taciz ve nefret söylemi oranlarının ana Instagram akışına kıyasla çok daha yüksek olduğunu gösteriyor.
Şirketin Reels’ı büyütmek için 700 kişilik dev bir ekip kurarken, çocuk güvenliği ve seçim dürüstlüğü gibi kritik alanlarda talep edilen küçük personel desteklerini dahi reddettiği iddia ediliyor.
TikTok cephesi de karışık: Siyasi içerikler, istismar içeriklerinden daha önde TikTok cephesinde ise durumun vahameti, “Nick” takma adlı bir güven ekibi çalışanının sızdırdığı dahili yönetim panelleriyle belgelendi.
Nick, TikTok’un hükümetlerle olan ilişkilerini korumak ve olası yasaklardan kaçınmak için siyasi figürlerle ilgili davaları, çocuk istismarı ve şantaj vakalarının önüne koyduğunu savundu.
Bir örnekte, bir siyasetçinin tavuğa benzetilerek alay edildiği video “acil” koduyla incelenirken; cinsel içerikli görsellerle şantaja uğrayan 16 yaşındaki bir çocuğun yardım çağrısı sistemde daha düşük bir öncelikle bekletildi.
İtirafçı çalışan, ebeveynlere çocuklarını bu uygulamadan olabildiğince uzak tutmaları yönünde çarpıcı bir çağrıda bulundu.
Algoritmaların birer “kara kutu” olduğunu ifade eden eski mühendisler, sistemin içeriğin niteliğine değil, sadece etkileşim rakamlarına odaklandığını vurguluyor.
19 yaşındaki Calum gibi kullanıcıların “algoritma tarafından radikalleştirilmesi” ise bu durumun en acı sonuçlarından biri olarak öne çıkıyor.
Genç kullanıcı, algoritmanın kendisine sürekli öfke uyandıran içerikler sunduğunu ve bu durumun kendisini ırkçı görüşlere ittiğini anlattı.
Meta ve TikTok ise tüm bu iddiaları reddederek, güvenliğe milyarlarca dolar yatırım yaptıklarını ve çocukları korumak için ileri düzey teknolojiler kullandıklarını savunuyor.
Ancak terörle mücadele uzmanları, sosyal medyadaki şiddet ve aşırı sağcı içeriklerin bu algoritmalar sayesinde her geçen gün daha fazla “normalleştiği” uyarısını sürdürüyor.

ENFIELD
HACKNEY
HARINGEY
ISLINGTON











