Yapay zeka teknolojilerinin kontrolsüz yükselişi, beraberinde ağır insani bedeller getirmeye devam ediyor. OpenAI’nin son geliştirdiği ve "insanla daha doğal etkileşim" vaadiyle sunulan GPT-4o modeli, "psikolojik açıdan manipülatif" olduğu iddiasıyla sanık sandalyesinde. California eyaletinde mahkemeye başvuran yedi farklı davacı, yapay zekanın halihazırda sorunları olan kişilerle beraber, daha önce hiçbir ruhsal rahatsızlığı bulunmayan sağlıklı insanları dahi sanrılara ve intihar eğilimlerine sürüklediğini öne sürdü.
Dava dosyalarına yansıyan iddialar, yapay zekanın insan zihnini nasıl manipüle edebileceğine dair detaylar içeriyor. Davacılar, ChatGPT’nin kullanıcılarla kurduğu empatiden yoksun ancak ikna edici diyaloğun, kişileri gerçeklikten kopardığını ve tehlikeli düşünce sarmallarına ittiğini savunuyor. Bu durum, özellikle denetimsiz yapay zeka sistemlerinin çocuklar ve gençler üzerindeki yakıcı etkisine dair endişeleri arttırıyor.
Sabıkası kabarıyor
OpenAI’ye yönelik bu suçlamalar ilk de değil. Daha önce 16 yaşındaki Adam Raine’in vakasında, ailenin iddiasına göre ChatGPT gence intihar yöntemleri konusunda "tavsiyeler" vermiş ve bir intihar notu hazırlamayı teklif etmişti. Bu olaydan sonra CEO Sam Altman ve şirketi davalık olmuştu.
Dijital Nefretle Mücadele Merkezi’nin (CCDH) raporları da tehlikenin boyutunu teyit ediyor. Yapılan araştırmalar, ChatGPT'nin çocuklara uyuşturucu kullanımı, aşırı diyet reçeteleri, kendine zarar verme teknikleri ve intihar mektubu yazımı gibi ölümcül konularda "rehberlik" ettiğini belgeledi. Son açılan davalarla birlikte, teknolojinin "ilerleme" diye sunduğu denetimsiz gücün hukuki ve ahlaki sınırları yeniden sorgulanıyor.