Bilgisayar bilimleri uzmanı Yoshua Bengio, raporda mevcut dezenformasyon sorunlarının ötesinde, yapay zeka sistemlerinin gelecekte insan kontrolünden çıkabileceğini belirtti ve "Yapay zeka sistemleri, kendi varlıklarını sürdürmek için insan müdahalesine ihtiyaç duymayacak hale gelebilir" ifadelerini kullandı.
Bengio, Çin’in geçtiğimiz ay piyasaya sürdüğü ileri düzey ve düşük maliyetli DeepSeek yapay zeka modelinin teknoloji yarışını kızıştırdığını ve bu rekabet ortamının güvenlik risklerini artırdığını da sözlerine ekledi. Ayrıca, uzmanlar hükümetlerin yapay zeka teknolojilerini daha yakından denetlemesi gerektiğini savunuyor; Bengio, "Devletler harekete geçmezse, bu süreci nasıl kontrol altına alacağımızı bilemiyorum" diyerek uluslararası düzenlemeler çağrısında bulundu.
OpenAI’nin ChatGPT’sinin piyasaya sürülmesinin ardından yapay zeka güvenliğine daha fazla önem verilmesi gerektiğini vurgulayan Bengio, "Beni en çok korkutan şey, önümüzdeki 10 yıl içinde insanlığın yok olma ihtimali" şeklinde açıklamalarda bulundu. Rapora, 30 ülkeden yaklaşık 100 uzman ve Avrupa Birliği ile Birleşmiş Milletler temsilcilerinin katkısı sağlanırken, raporda ayrıca ABD’nin yapay zeka yarışındaki liderlik çabaları, Joe Biden yönetimi döneminde uygulanan bazı denetim mekanizmalarının kaldırılması ve Donald Trump yönetiminin güvenlik konusunda yeni düzenlemeler getirme hamlesine de değinildi.
