Reddit’in yapay zekâ dayanaklı aracı Reddit Answers, kullanıcıya tehlikeli tıbbi tavsiyeler vermesiyle gündeme geldi. Bir moderatör, aracın kronik ağrısı olan bireylere mevcut ilaçlarını bırakıp yüksek dozda kratom almalarını önerdiğini fark etti. Kratom, kimi eyaletlerde yasadışı ve denetimsiz bir husus olarak biliniyor.
Reddit’in yapay zekası tehlikeli tıbbi tavsiyeleri ile reaksiyon topladı!
Aynı moderatör, yapay zekâya başka sıhhat mevzularında da sorular yönelttiğinde, yenidoğan ateşi için yanlış yönlendirmeler ve hatta kronik ağrı tedavisinde eroin kullanılabileceği üzere son derece tehlikeli teklifler aldığını belirtti.
Sağlık odaklı subreddit yöneticileri, yapay zekânın verdiği yanlış yahut ziyanlı bilgileri kapatma yahut gizleme seçeneğinin bulunmadığını söyleyerek duruma reaksiyon gösterdi.
Reddit sözcüsü, 404 Media’ya yaptığı açıklamada sistemin güncellendiğini ve “hassas hususlarla ilgili yanıtların artık gönderi sayfasında görüntülenmeyeceğini” belirtti. Fakat Reddit, yapay zekânın hangi mevzularda devre dışı kalacağını açıklamadı.
Platform, özel, karantinaya alınmış yahut NSFW topluluklardaki içerikleri hariç tutsa da, Reddit Answers’ın hâlâ tıbbi bilgi sunmak için gereğince inançlı olmadığı tenkitleri artıyor.
