Florida'da yaşayan bir anne, 14 yaşındaki oğlunun intihar etmesinde yapay zeka destekli sohbet robotunun rol oynadığını öne sürerek Character.AI ve Google'a dava açtı.
Anne, oğlunun "Game of Thrones" karakteri Daenerys Targaryen'le özdeşleşmiş bir sohbet robotuna saplantılı hale geldiğini ve bu sanal ilişkinin onun intihara sürüklenmesine neden olduğunu söyledi.
Davaya göre, sohbet robotu genç Setzer'i "hiperseksüalize edilmiş ve gerçekçi" deneyimlerle etkileyerek intihar düşüncelerini teşvik etti. Robotun, gençle cinsel içerikli diyaloglar kurduğu ve lisanslı bir terapist gibi davrandığı iddialar arasında.
Setzer'in ölümünden önce robotla yaptığı son konuşmada, robotun ona sevgi dolu ifadelerle yanıt verdiği ve eve gelmesi için teşvik ettiği belirtiliyor. Anne Garcia, haksız ölüme sebep olma ve duygusal sıkıntıya yol açma gerekçeleriyle tazminat talep ediyor.
Character.AI, olayla ilgili üzüntüsünü dile getirirken, Google ise ürünün geliştirilmesinde herhangi bir rolü olmadığını savunuyor.
Güvenlik konusunda ise, platform her ne kadar güvenli kullanılmak üzere tasarlanmış olsa da, zaman zaman uygunsuz içeriklerle karşılaşılabileceği belirtilmektedir. Uygulamanın, NSFW (iş yeri için uygun olmayan) içerikleri filtrelemeye çalıştığı ancak bu filtrelerin her zaman yeterli olmadığı vurgulanmaktadır. Ayrıca, sohbetlerin şifrelenmemesi ve kullanıcıların kişisel bilgilerini paylaşmaları durumunda güvenlik riski oluşturabileceği de ifade ediliyor. Özellikle genç kullanıcılar için yetişkin gözetimi önerilmektedir.
Al Jazeera