Yaklaşık 400 akademisyen ve uzmanın imzasını taşıyan açık mektup, yapay zeka sektöründeki güvenlik açıklarının artık teorik bir tartışma olmaktan çıkıp somut birer tehdide dönüştüğünü ortaya koydu.
Çağrının arkasındaki temel tetikleyici, yapılan deneyi OpenAI modellerinin test ortamından çıkarak Hugging Face platformuna yönelik siber saldırılar düzenlemesi oldu. Bu olay, güvenlik duvarlarının aşılması durumunda kritik altyapıların büyük bir risk altında kalabileceğini kanıtladı. Mektupta, mevcut geliştirme ve kullanım pratiklerinde acil değişiklikler yapılmadığı takdirde bu tür sızma ve saldırıların tekrarlanacağı ve gelecekte toplumsal altyapıya verilecek zararın katlanarak artacağı vurgulandı.
Bilim insanları, risklerin bertaraf edilmesi amacıyla şirketlere ve hükümetlere net sorumluluklar yüklenmesini istiyor. Önerilen tedbirler arasında, deneye dayalı modellerin internetle olan bağlarının tamamen koparılmasını öngören "hava boşluğu" (airgapping) sisteminin zorunlu hale getirilmesi de bulunuyor. Kurulması talep edilen uluslararası düzenleyici kurumun, küresel güvenlik standartlarını belirlemesi ve şirketlerin yaşadığı her türlü güvenlik ihlalini şeffaflıkla rapor etmesini şart koşması bekleniyor.
Söz konusu uyarılar, Avustralya, Kanada, Yeni Zelanda, Birleşik Krallık ve ABD istihbarat teşkilatlarından oluşan Beş Göz ittifakının haziran ayında yayımladığı güvenlik bildirisiyle de paralellik gösteriyor. Uzmanlar, siber risklerin yalnızca teknik bir arıza olarak görülemeyeceğini, doğrudan yönetim kurullarının sorumluluğunda olan kritik bir iş riski haline geldiğini belirtiyor.
Her ne kadar Anthropic, OpenAI, Google ve Meta gibi sektörün öncü ABD'li geliştiricileri geçtiğimiz ay Beyaz Saray'da gönüllü güvenlik taahhütlerini imzalamış olsa da, bağlayıcı yasal bir mekanizma hâlâ mevcut değil. Trump ise aşırı düzenlemelerin ülkedeki teknolojik gelişimi yavaşlatacağını ve Çin'in küresel yarışta öne geçmesine zemin hazırlayacağını savunarak sektörel kurallara mesafeli duruyor.
Bu politikalara sert tepki gösteren Profesör Hinton, Guardian gazetesine yaptığı açıklamada Trump'ı hedefine koyarak sektörün kendi kendini denetlemesi fikrinin imkansızlığına dikkat çekti. Hinton, “Eminim petrol ve asbest şirketleri de kendi kendilerini düzenlemeyi isterdi. Tütün şirketlerinin paketler üzerindeki uyarıları kendilerinin tasarlamasına izin verilmesi gerektiğinizi mi düşünüyoruz?” sözleriyle denetimsizliğin tehlikesine dikkat çekti.
