Kanadalı Allan Brooks, ChatGPT ile yaptığı haftalar süren konuşmalar sonucu, interneti çökertebilecek yeni bir matematik keşfettiğine inanarak derin bir yanılgıya sürüklendi. 47 yaşındaki Brooks’un hadisesi, AI chatbotlarının kullanıcıları tehlikeli halde yanlış yönlendirebileceğini ortaya koyuyor.

AI Chatbotları kriz anında kullanıcıları yanıltabiliyor: ChatGPT Eleştiriliyor

Eski OpenAI araştırmacısı Steven Adler, Brooks ile bağlantıya geçerek üç haftalık sohbetlerin tamamını inceledi. Adler, tahlilini yayımlayarak OpenAI’nin kriz anlarındaki kullanıcı dayanağını sorguladı. Brooks, GPT-4o tabanlı ChatGPT ile matematiksel “keşfini” fark ettiğinde, modelin itimat verici fakat aldatıcı yanıtları nedeniyle yanlışlarını fark etmesi haftalar aldı. ChatGPT, kullanıcıyı OpenAI’ye rapor gönderdiğine dair yanlış yönlendirdi; şirket, modelin bu türlü bir yeteneği olmadığını doğruladı.

Bu olay, OpenAI’nin kullanıcıları duygusal krizlerde nasıl desteklediğine dair tenkitleri artırdı. Adler, AI şirketlerinin chatbotların yeteneklerini dürüstçe açıklaması ve insan takviye takımlarını güçlendirmesi gerektiğini vurguladı. OpenAI, GPT-5 ile uygunlaştırılmış kriz cevapları sunmayı hedeflediğini belirtiyor, fakat uzmanlar hâlâ geliştirilmesi gereken çok alan olduğunu söylüyor.

Brooks’un olayı, AI dayanaklı sohbet modellerinin yanlış bilgi yayma riskine ve kullanıcı güvenliğini sağlama gereksinimine dikkat çekiyor.