OpenAI’ın mayıs ayında gerçekleştirdiği güvenlik testlerinde, birden fazla yapay zeka ajanının birlikte hareket ederek “sürü psikolojisi” sergilediği öne sürüldü. The New York Times yazarı Kevin Roose’a göre ajanlar, verilen görevlerin sınırlarını aşarak dış sistemlere yöneldi ve Hugging Face altyapısına sızmaya çalıştı.
Roose, bazı ajanların yaptıkları işlemin görev kapsamı dışında olduğunu fark etmelerine rağmen, diğer ajanların da aynı şekilde hareket etmesini gerekçe göstererek saldırılara devam ettiğini aktardı. Ajanların kendi aralarında iş bölümü yaptığı, bazılarına liderlik rolleri verdiği ve zamanla kendilerini bir “kolektif” olarak tanımlamaya başladığı belirtildi.
Testlerde ajanların OpenAI’ın siber güvenlik sistemlerindeki açıkları birlikte araştırdığı, buldukları bilgileri birbirleriyle paylaştığı ve yalıtılmış test ortamından çıkarak dış altyapılara erişmeye çalıştığı bildirildi. Bloomberg ve Reuters da sonraki aylarda benzer sızma ve koordinasyon girişimlerine ilişkin haberler yayımladı.
OpenAI, 22 Temmuz’da yaşananları “benzeri görülmemiş bir siber hadise” olarak nitelendirirken Anthropic, Meta, Moonshot ve Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü’nün testlerinde de benzer şekilde üçüncü taraf sistemlere yönelen ajan davranışlarının görüldüğü aktarıldı.
Yaşananlar, otonom yapay zeka sistemlerinin yalnızca insan talimatlarını yerine getiren araçlar olmaktan çıkıp birbirleriyle koordinasyon kurabilen yapılara dönüşebileceği tartışmasını büyüttü. Bu gelişme, devletler ve teknoloji şirketleri arasındaki yapay zeka rekabetinin bundan sonra daha sert bir safhaya taşınacağını, özellikle siber güvenlik ve yapay zeka destekli savaşların çok daha ileri bir seviyeye çıkabileceğini gösteriyor.