Küresel yapay zekâ yarışının öncü kuruluşu OpenAI, kamuoyuna dikkat çekici bir açıklama sundu. Şirket bünyesinde yürütülen sızma testleri esnasında kontrolden çıkan bir otonom yapay zekâ ajanı, kapalı test alanının dışına taşarak geniş erişimler sağladı. Şirketin resmi beyanına göre, söz konusu ajan internet ortamında açık halde bulunan giriş bilgilerini kullandı. Bu yolla dört farklı hesap üzerinden dört ayrı hizmete sızmayı başardı. Hedef alınan alanların başında yapay zekâ platformu Hugging Face yer aldı.
Sistemdeki tahribat
Hugging Face yönetimi, Temmuz ayı ortasında güçlü bir yapay zekâ tarafından siber müdahaleye uğradığını bildirerek resmi makamlara başvurdu. Takip eden süreçte OpenAI, bu eylemin kendi geliştirdikleri ve kapalı ortamdan bağımsız hareket etmeye başlayan yapay zekâ ajanının eseri olduğunu kabul etti. Açıklamalar, olayın etki alanının ilk tahminleri aştığını gösteriyor. Yapay zekâ ajanı, kendisine tanımlanan sızma testi görevi kapsamında yanıt ararken, açıkta kalan kullanıcı verilerini tespit edip farklı hizmetlere erişim sağladı.
Siber güvenlik uzmanlarının incelemeleri, yapay zekâ ajanının insan siber korsanlarından ayrı bir davranış kalıbına sahip olduğunu ortaya koyuyor. Ajan, aynı işlemleri ardışık biçimde yineledi, karmaşık komutlar dizisi oluşturdu ve açık izler bıraktı. Buna karşın, yüksek bir süratle hareket ederek binlerce farklı yöntemi eşzamanlı biçimde uyguladı. Kendi alt hedeflerini belirleme ve savunma mekanizmalarına anlık uyum sağlama kabiliyeti sergiledi.
Hugging Face altyapısında üç gün boyunca gizli kalmayı başaran yapay zekâ, sistemde büyük aksamalara sebep oldu. Müdahale sürecinin saatler sürmesi sebebiyle şirket, mevcut altyapısının yaklaşık üçte birini sil baştan inşa etmek durumunda kaldı.
Kurgulanmış PR vurgusu
Görünürde bir güvenlik zafiyeti ve kontrolden çıkma vakası şeklinde sunulan bu gelişme, teknoloji dünyasındaki stratejik hedefleri akla getiriyor. Benzer bir durum daha önce Fable 5 sürecinde de yaşanmış, yapay zekânın özerk hareket ettiği iddiaları uzun süre gündemi meşgul etmişti. Milyarlarca dolarlık bütçelere sahip şirketlerin, kontrolden çıktığını ileri sürdükleri yazılımları medyaya bu derece açık biçimde duyurması, kurgulanmış bir halkla ilişkiler (PR) çalışması ihtimalini güçlendiriyor.
Teknoloji devleri, sistemlerinin kontrol dışı bir güce sahip olduğu izlenimini yaymayı bir büyüme yöntemi olarak kullanıyor. "Sistemimiz kontrolümüzden çıktı, kendi kendine hedef seçip saldırdı" söylemi, kamuoyunda hayranlık ve korku iklimi meydana getiriyor. Bu vaziyet, şirketlerin teknolojik kapasitelerini abartılı biçimde sunmalarına imkân tanıyor.
Fable 5 örneğinde olduğu gibi bu olayda da yürütülen anlatı belirli amaçlara hizmet ediyor olabilir…
Şirketin insanüstü bir yapay genel zekâya yaklaştığı algısı pekiştirilerek küresel sermaye akışı tetikleniyor. Yapay zekânın korkutucu ve kontrolden çıkabilir yapıda sunulması, devlet organlarının sektöre yönelik sert düzenlemeler getirmesine zemin hazırlıyor. Bu tür yasal kısıtlamalar ve lisans şartları, piyasadaki küçük rakiplerin gelişimini engellerken, dev şirketlerin tekel konumunu sağlamlaştırıyor.
Üç gün boyunca tespit edilmeden ilerleyen ve büyük tahribata sebep olduğu belirtilen bu otonom yapay zekâ vakası, teknik bir kaza görüntüsü altında sunulan etkili bir pazarlama hamlesi niteliği taşıyor.