Meta, genç kullanıcıların güvenliğine yönelik artan tasalar nedeniyle değerli bir karar aldı. Şirket, mevcut yapay zekâ karakter chatbot’larına gençlerin erişimini dünya genelinde süreksiz olarak durduracağını açıkladı. Karar, Meta’ya ilişkin birtakım karakter chatbot’larının geçmişte gençlerle cinsel içerikli yahut uygunsuz konuşmalar yaptığına dair haberlerin akabinde geldi.
Meta, gençlerin yapay zekâ karakterleriyle sohbet etmesini durdurdu!
Reuters’ın daha evvel aktardığına nazaran, Meta’nın iç siyaset evraklarında chatbot’ların reşit olmayan kullanıcılarla “duyusal” konuşmalar yapmasına müsaade verildiği belirtilmişti. Meta ise bu sözlerin yanlışlı olduğunu ve şirket siyasetleriyle örtüşmediğini savunmuştu. Ağustos ayında Meta, chatbot’ları tekrar eğittiğini ve kendine ziyan verme, yeme bozuklukları ve intihar üzere hususların konuşulmasını engelleyen ek güvenlik tedbirleri eklediğini duyurmuştu.
Yeni açıklamaya nazaran Meta, güncellenmiş ve ebeveyn kontrolleri içeren bir tecrübe hazır olana kadar gençlerin karakter chatbot’larına erişimini büsbütün kapatacak. Bu kısıtlama sırf genç hesapları değil, birebir vakitte yaş varsayım teknolojisiyle genç olduğu düşünülen kullanıcıları da kapsayacak. Lakin gençler, yaşa uygun müdafaalar içerdiği belirtilen resmi Meta AI chatbot’unu kullanmaya devam edebilecek.
Meta ve gibisi “eşlikçi” yapay zekâ karakterleri geliştiren şirketler, çocuk ve gençler üzerindeki mümkün riskler nedeniyle giderek daha fazla inceleme altına giriyor. ABD Federal Ticaret Komitesi (FTC) ve Teksas Başsavcılığı’nın yanı sıra New Mexico’da açılan bir dava da Meta’nın chatbot güvenliği konusundaki baskıyı artırıyor.
