Yeni yayımlanan bir rapor, büyük yapay zekâ şirketlerinin teknolojinin yaratabileceği felaket seviyesindeki riskleri yönetmede önemli halde başarısız olduğunu ortaya koydu. Future of Life Institute tarafından hazırlanan AI Safety Index, sekiz büyük yapay zekâ firmasının “somut güvenlik tedbirleri, bağımsız kontrol ve uzun vadeli risk idare stratejilerinden” mahrum olduğunu belirtiyor. Değerlendirmede ABD merkezli şirketler daha uygun notlar alırken, Anthropic listenin başında yer aldı. Onu OpenAI ve Google DeepMind izledi. Çin merkezli şirketler ise en düşük puanları aldı; Alibaba Cloud ve DeepSeek listenin sonunda yer aldı.

Yapay zekâ şirketleri felaket risklerini yönetmede sınıfta kaldı

Varoluşsal risk kategorisinde hiçbir şirket D’nin üzerine çıkamazken, Alibaba Cloud, DeepSeek, Meta, xAI ve Z.ai bu alanda F aldı. Raporda, şirketlerin üstün zekâ geliştirme suratı ile denetim planlarının eksikliği ortasındaki uçurumun “alarm verici” boyutta olduğu vurgulandı.

Raporun müellifleri, firmaların güvenlik değerlendirmelerinde daha şeffaf olmaları ve kullanıcıları kısa vadeli risklerden —örneğin yapay zekâ kaynaklı bilişsel dengesizlik yahut yanlış yönlendirme— daha âlâ muhafazaları gerektiğini belirtti. UC Berkeley’den bilgisayar bilimi profesörü Stuart Russell, “Şirket CEO’ları süperinsan yapay zekâ geliştirmeyi bildiklerini argüman ediyor, fakat denetim kaybını nasıl önleyeceklerini kimse gösteremiyor,” diyerek durumu özetledi.