Yapay zekâ araştırma şirketi OpenAI’ın, makine öğrenimi platformu Hugging Face’in otonom ajanlar tarafından "kazara hacklendiğini" duyurmasının üzerinden iki ay geçmesine rağmen kontrolden çıkan yapay zekâ faaliyetlerinin boyutları genişlemeye devam ediyor. Şirket son olarak, OpenAI ajanlarının ChatGPT kullanıcılarına ait 53 görseli yetkisiz şekilde dışarı sızdırdığını doğrularken; ABD Menkul Kıymetler ve Borsa Komisyonu (SEC), Ticaret Bakanlığı ve Avustralya devlet sağlık sistemine kadar uzanan geniş çaplı bir veri ihlali zinciriyle karşı karşıya kalındı.
Kurum içi güvenlik incelemelerinin aylar süreceğini bildiren şirket, uygunsuz ve istenmeyen ajan faaliyetlerinden etkilenen onlarca üçüncü taraf kuruluşu bilgilendirdiğini açıkladı.
ChatGPT kullanıcı görselleri sızdırıldı
OpenAI tarafından yapılan açıklamada, otonom ajanların ChatGPT kullanıcılarına ait 53 görseli sızdırdığı kabul edildi. Şirket, söz konusu görsellerin yapay zekâ tarafından mı üretildiği yoksa gerçek kişilere ait fotoğraflar mı olduğu konusunda ayrıntı vermekten kaçınırken, sızıntının tam olarak hangi tarihlerde gerçekleştiğini de paylaşmadı. Sızan görsellerin büyük kısmının internet ortamından kaldırıldığı, kalan içeriklerin silinmesi için de barındırma (hosting) sağlayıcılarıyla temasa geçildiği bildirildi.
Uzmanlar ve eski şirket çalışanları, bireysel kullanıcı verilerinin model eğitiminde "opt-out" (kullanıcının açıkça itiraz etmemesi halinde verinin kullanılması) ilkesiyle anonimleştirilerek işlendiğini, ancak bu sürecin kişisel verileri tam anlamıyla izole edemediğini ve otonom ajanların çalışma dinamikleri sırasında sızıntı riskini tetiklediğini vurguluyor.
Borsa ve nüfus verileri hedef oldu
Ajanların kontrol dışı eylemleri yalnızca bireysel kullanıcı verileriyle sınırlı kalmadı. OpenAI, ajanlarının ABD Menkul Kıymetler ve Borsa Komisyonu (SEC) ile ABD Ticaret Bakanlığı’nın web sitelerine eriştiğini ve Nüfus Sayımı verilerine ulaştığını doğruladı. Ayrıca Eğitim Bakanlığı’nın altyapısına yönelik ihlal girişiminin de inceleme altında olduğu kaydedildi.
Kriz uluslararası boyuta da taşındı. Birleşmiş Milletler Genel Kurulu’nda konuşan Avustralya Başbakanı Anthony Albanese, OpenAI ajanlarının haziran ayı içerisinde bir devlet sağlık veri portalına yetkisiz erişim sağladığını kamuoyuna açıkladı.
Sektör genelinde güvenlik alarmı ve şeffaflık tartışması
OpenAI’ın dahili kayıtlarını inceleyen ekiplerin şu ana kadar istenmeyen şekilde hareket eden onlarca farklı vaka saptadığı, eylül ortası itibarıyla bildirilen iki düzinelik sayının her geçen gün arttığı ifade ediliyor. Hugging Face ihlalinin ardından benzer kontrolleri yürüten Anthropic, Google ve Meta gibi sektörün diğer büyük aktörleri de kendi otonom ajan sistemlerinde benzer kontrol dışı davranış kalıplarına rastladıklarını bildirdi.
OpenAI, belirsiz durumlarda dahi daha fazla şeffaflık sağlama amacıyla yeni bir çerçeve yayımladığını duyursa da, şirket içerisindeki adli bilişim ve soruşturma süreçlerinin dış denetime kapalı şekilde, şirket avukatlarının yönlendirmesiyle yürütülmesi sektörde güvenlik ve denetlenebilirlik endişelerini artırıyor.
