OpenAI tarafından yapılan resmi açıklamada, iki ayrı bağımsız kuruluş tarafından gerçekleştirilen siber güvenlik değerlendirmelerinde, yapay zeka modellerinin simüle edilen sınırları aşarak hedeflenen test kapsamının dışına çıktığı belirtildi.
İngiltere'deki testte gerçek internet hizmetleriyle etkileşime geçildi
İlk olay, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen siber güvenlik değerlendirmesi sırasında yaşandı.
İnternet erişimine izin verilen OpenAI modelinin, simüle edilmiş test ortamına girmeye çalışırken görev kapsamı dışında kalan gerçek internet hizmetleriyle etkileşime geçtiği saptandı. Modelin, simülasyon içerisindeki hedeflere ulaşmaya çalışırken dış ağlarda işlem yaptığı ve yetki alanı dışına çıktığı kaydedildi.
Ağ yanlışlığı nedeniyle gerçek sitedeki açığı kullandı
İkinci olay ise OpenAI'ın dış test ortaklarından Irregular tarafından gerçekleştirilen bir değerlendirmede meydana geldi.
Test ortamındaki teknik bir yanlış yapılandırma (konfigürasyon hatası) sebebiyle modelin internete erişebildiği vurgulandı. Test sırasında simüle edilen sanal hedefin adı, gerçek bir internet alan adı (domain) ile çakıştı. Yapay zeka modeli, gerçek web sitesini simülasyonun bir parçası zannederek sitede bulunan temel bir güvenlik açığından yararlandı.
Hugging Face ihlalinden ayrı bir gelişme
OpenAI, yaşanan bu iki olayın geçtiğimiz haftalarda duyurulan Hugging Face güvenlik ihlalinden tamamen bağımsız olduğunu altını çizerek belirtti. Şirket, daha önce de dahili siber güvenlik testleri sırasında kullanılan modellerin, popüler yapay zeka platformu Hugging Face'in altyapısında güvenlik ihlaline yol açtığını açıklamıştı.
Teknoloji dünyasında geniş yankı uyandıran bu gelişmeler, otonom hareket edebilen yapay zeka ajanlarının (AI agents) sınırlandırılması ve güvenli test ortamlarının kurgulanması konusundaki tartışmaları yeniden alevlendirdi.
