ABD’de kayıp ve istismara uğrayan çocuklarla ilgili çalışan National Center for Missing and Exploited Children (NCMEC), 2025 yılında yapay zekâ ile temaslı çocuk cinsel istismarı malzemesi (CSAM) hakkında 1 milyondan fazla bildirim aldığını açıkladı. Bloomberg’in araştırmasına nazaran bu içeriklerin “çok büyük kısmı” Amazon tarafından raporlandı ve şirket, gerecin kendi yapay zekâ eğitim datalarında tespit edildiğini belirtti.
2025’te 1 milyonu aşan yapay zekâ kaynaklı CSAM bildirimi
NCMEC CyberTipline yöneticisi Fallon McNulty, bu kadar yüksek hacimli bildirimin “istisnai” olduğunu ve datanın kaynağı ile alınan güvenlik tedbirleri konusunda önemli soru işaretleri doğurduğunu söyledi. McNulty’ye nazaran Amazon dışındaki şirketlerden gelen AI-CSAM bildirimleri ekseriyetle kolluk kuvvetlerine iletilebilecek “eyleme geçirilebilir” bilgiler içerirken, Amazon’un kaynak paylaşmaması raporların “işleme alınamaz” hale gelmesine neden oldu.
Amazon ise Bloomberg’e yaptığı açıklamada, temel model eğitim bilgilerini kamuya açık web dahil olmak üzere tarayarak bilinen CSAM içeriklerini tespit edip kaldırmak için “ihtiyatlı” bir yaklaşım izlediğini savundu. Şirket, muhtemel hadiseleri kaçırmamak için şuurlu biçimde “fazla raporlama” yaptığını ve kuşkulu içeriklerin modele aktarılmadan evvel temizlendiğini bildirdi.
