ABD’de yapay zekânın kontrol edilemeyecek bir hızda ilerlediğine ilişkin tartışmalar büyürken sektörün en güçlü şirketlerinden Anthropic, Google ve OpenAI’ın ortak bir standart mekanizması üzerinde görüştüğü iddia edildi.
CNN’e konuşan ve isimleri açıklanmayan kaynaklara göre şirketler, yapay zekâ sektörünün güvenlik ve çalışma standartlarını belirleyecek yeni bir kurum oluşturulması seçeneğini değerlendiriyor. Görüşmelerin ABD yönetiminin sürece doğrudan katılıp katılmamasından bağımsız biçimde devam ettiği belirtiliyor.
Modeller piyasaya çıkmadan test edilebilir
Tartışmaların arka planında Google DeepMind Kurucu Ortağı Demis Hassabis’in temmuz ayında gündeme getirdiği model bulunuyor. Hassabis, hükümet gözetiminde ve kamu-özel sektör işbirliğiyle çalışacak bir yapının kurulmasını, ileri düzey yapay zekâ modellerinin kullanıma açılmadan önce bu kurum tarafından test edilmesini önermişti.
Böyle bir yapının hayata geçirilmesi, dünyanın en güçlü yapay zekâ şirketlerinin model geliştirme ve piyasaya sürme süreçlerinde ortak kurallara tabi olması anlamına gelecek. Ancak sektör yöneticilerinin denetimin kapsamı ve yöntemi konusunda henüz ortak bir noktada buluşmadığı aktarılıyor.
“Kontrol kapasitesini aşabilir”
Anthropic Üst Yöneticisi Dario Amodei de 12 Eylül’de yayımladığı yazıda yapay zekânın gelişme hızının, insanların sistemleri anlama ve kontrol altında tutma kapasitesini aşabileceği uyarısında bulundu. Amodei, şirketlerin ortak güvenlik standartları belirlemesini ve modellerin piyasaya sürülme hızına ilişkin birtakım kurallar geliştirmesini istedi.
Amodei’nin çıkışına Elon Musk destek verirken OpenAI Üst Yöneticisi Sam Altman da bağımsız değerlendirme mekanizmalarının güçlendirilmesi gerektiği yönünde görüş bildirdi.
Yapay zekâ yarışında Çin endişesi
Denetim tartışmasının önündeki en büyük meselelerden biri ise ABD ile Çin arasındaki teknoloji rekabeti. Amodei, Amerikan şirketlerinin gelişme hızını düşürmesi hâlinde Çinli yapay zekâ laboratuvarlarının aynı yolu izlemeyebileceğine dikkat çekti. ABD’nin Çin’e gelişmiş çip ihracatına yönelik kısıtlamaları güçlendirmesi gerektiğini de savundu.
Böylece yapay zekâ yarışında yeni bir dönem tartışmaya açılmış durumda. Bugüne kadar daha güçlü ve daha hızlı modeller geliştirmek için yarışan teknoloji devleri, şimdi bu gücün hangi kurallarla sınırlandırılacağını ve kimin denetleyeceğini tartışıyor.