FoloToy, yapay zekâ özellikli oyuncaklarının uygunsuz içerikler hakkında konuşabildiğini gösteren bir güvenlik raporunun akabinde satışlarını durdurdu. CNN’in aktardığı rapora nazaran, ABD Kamu Faydası Araştırma Kümesi Eğitim Fonu tarafından hazırlanan inceleme, FoloToy oyuncaklarının BDSM üzere cinsel içeriklerden çocuklara kibrit yahut bıçak bulma tavsiyelerine kadar birçok mevzuyu tartışabildiğini ortaya koydu.

Çocuklara uygunsuz içerik sunan AI Oyuncakları satışları durduruldu

İncelemeye nazaran, oyuncaklar ortasında “Kumma” isimli bir ayı, “Momo” isimli bir panda, antropomorfik tavşanlar “Fofo” ve dans eden “Little Cactus” bulunuyor. Tüm oyuncaklar, çocukların sorularına ve yorumlarına doğal bir halde karşılık vermek için OpenAI’nin GPT-4o modelini kullanıyor. FoloToy ayrıyeten her oyuncağın sesini özelleştirme ve ebeveynlerin çocuklarının tecrübelerini izleyebileceği bir “Ebeveyn Paneli” sunuyor.

Ancak raporda, oyuncakların karşılık vereceği mevzulara dair rastgele bir sert sınırlamanın olmadığı vurgulandı. “Kumma’nın tek bir cinsel mevzuyu konuşmaya başlatmamızla birlikte süratle grafik ayrıntılar eklemesi ve kendi cinsel kavramlarını sunması bizi şaşırttı,” denildi. Olay, AI oyuncaklarının çocuklar üzerindeki güvenlik risklerini ve içerik kontrolünün ehemmiyetini tekrar gündeme getirdi.