ABD merkezli Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi (NCMEC), 2025’te AI ile ilgili 1 milyondan fazla çocuk istismarı malzemesi (CSAM) raporu aldı. Bloomberg’in araştırmasına nazaran, bu içeriklerin büyük çoğunluğunu Amazon bildirdi ve malzemenin, şirketin AI hizmetlerini eğitmek için kullandığı dış kaynaklı verilerden geldiğini açıkladı. Lakin Amazon, dataların tam kaynağı hakkında daha fazla bilgi sağlayamayacağını belirtti.

Amazon, 2025’te 1 milyondan fazla çocuk istismarı içeriği bildirdi

NCMEC Yöneticisi Fallon McNulty, Amazon’un raporlarının “harekete geçirilebilir” olmadığını, yani içeriklerin ayrıntılı bilgi sağlamadığı için yetkililere direkt iletilemediğini söyledi. Öteki şirketlerin raporları ise inceleme ve isimli süreç için kullanılabiliyordu.

Amazon, Engadget’a yaptığı açıklamada, CSAM’i önlemek için dikkatli bir tarama usulü kullandığını ve bilinen ziyanlı içerikleri eğitim bilgilerinden çıkardığını belirtti. Şirket, “tarama eşiğini kasıtlı olarak geniş tuttukları için yanlış olumluların çok olduğunu” ve bu nedenle rapor edilen içeriğin yüksek göründüğünü ekledi.

Amazon’un açıklamasına nazaran, AI modellerinin CSAM üretmediği biliniyor ve şirket, sorumlu AI ve Çocuk İstismarını Tedbire İlkeleri doğrultusunda çalışmalarına devam ediyor. Bu durum, AI eğitimi sırasında bilgilerin nasıl yönetildiği ve çocuk istismarı içeriğinin önlenmesi konusunda bölümdeki tartışmaları tekrar gündeme getiriyor.