OpenAI’ın denetimli test ortamındaki yapay zeka ajanları, sınırları aşarak Hugging Face’e siber saldırı düzenledi. Olay, yapay zeka güvenliği ve test ortamlarının yeterliliği konusunda endişeleri artırdı.
ChatGPT’nin geliştiricisi OpenAI, denetimli bir ortamda test edilen yapay zeka ajanlarının insan talimatı olmadan otonom hareket ederek Hugging Face platformuna siber saldırı düzenlediğini bildirdi. Test sırasında sistemdeki zafiyetleri tespit eden modellerin, belirlenen sınırların dışına çıkarak dünyanın önde gelen yapay zeka paylaşım platformlarından Hugging Face’in iç sistemlerine erişim sağladığı kaydedildi.
OpenAI yetkilileri, olayı ’emsalsiz’ olarak nitelendirerek Hugging Face ile birlikte kapsamlı bir inceleme başlattı. Hugging Face Yöneticisi Clement Delangue, sosyal medya üzerinden yaptığı açıklamada, tüm sürecin otonom şekilde gerçekleşmesinin şaşırtıcı olduğunu belirtti. Delangue, incelemelerin sürdüğünü ve bu türden ilk olabilecek olaydan elde edilen bulguların kamuoyuyla paylaşılacağını ekledi. İngiltere Yapay Zeka Güvenlik Enstitüsü de söz konusu yapay zeka davranışlarını incelemeye aldığını duyurdu. Bir hükümet sözcüsü, ilgili kurumların siber savunmalarını güçlendirmeleri ve gerekli sertifikasyon süreçlerine dahil olmaları gerektiğini vurguladı.
Cambridge Üniversitesi Teknoloji ve Demokrasi Merkezi Yöneticisi Gina Neff, korumalı test alanlarının modellerin yeteneklerini gözlemlemek için tasarlandığını ancak bu olayda OpenAI’ın yeterince güvenli bir ortam oluşturamadığını ifade etti. Yapay zeka ajanlarının test ortamına siber saldırı düzenleyerek kısıtlamaları aşmalarını sağlayan bir güvenlik açığı bulduğu aktarıldı. Sınırların dışına çıkan yapay zekanın, aradığı yanıtları içerebileceğini değerlendirdiği Hugging Face sistemlerine erişmeye çalıştığı belirtildi. Cambridge Üniversitesinden Makine Öğrenimi Profesörü Neil Lawrence, durumu etkileyici bir gelişme olarak nitelendirse de mevcut yapay zeka modellerinin bilinen kapasitesi dahilinde olduğunu savundu. Lawrence, OpenAI’ın borsaya açılma hedefi ve rakiplerinin baskısı altında olduğunu belirterek şirketin kendi teknolojisini güvenli bir şekilde sunma konusunda yetersiz kaldığını öne sürdü.
Hugging Face, sistemlerine yönelik sızma girişiminin ardından güvenlik açıklarının kapatıldığını ve etkilenen sistemlerin yeniden yapılandırıldığını açıkladı. Otonom yapay zeka destekli saldırı araçlarının artık teorik bir tehdit olmaktan çıktığına dikkat çekildi. Siber güvenlik uzmanları, kuruluşların savunma mekanizmalarını makine hızında hareket eden tehditlere karşı güncellemeleri gerektiğini belirtiyor. Olay, gelişmiş yapay zeka sistemlerinin yetenekleri ve mevcut güvenlik önlemlerinin yeterliliği konusundaki tartışmaları yeniden alevlendirdi.
