ABD'nin California eyaletinde OpenAI hakkında, yapay zeka modellerini yeterli güvenlik önlemleri ve denetim süreçleri olmadan geliştirdiği ve test ettiği iddiasıyla dava açıldı. California Başsavcısı Rob Bonta, şirketin bu uygulamalarla kamu güvenliğini riske attığını ve halkı yanılttığını öne sürdü.
California Başsavcılığı OpenAI'yi suçladı
California Başsavcısı Rob Bonta tarafından yapılan açıklamada, OpenAI'nin gelişmiş yapay zeka modellerini gerekli güvenlik tedbirlerini ve denetim mekanizmalarını oluşturmadan geliştirdiği ve test ettiği iddia edildi. Şirketin bu süreçte kamu güvenliğini korumaya yönelik yükümlülüklerini yerine getirmediği savunuldu.
Açıklamada, OpenAI'nin söz konusu uygulamalarının kamuoyunu yanılttığı ve toplum açısından risk oluşturduğu ileri sürüldü. Şirketin yapay zeka modellerini geliştirme ve test aşamalarında yeterli güvenlik kontrolü sağlamadığı da iddialar arasında yer aldı.
Hugging Face altyapısındaki siber saldırı davaya konu oldu
Başsavcılığın açıklamasında, Hugging Face'in altyapısına yönelik siber saldırıya da değinildi. Saldırının, OpenAI'nin tehlikeli olduğunu bildiği modelleri yeterli denetim olmadan ve güvenlik açıkları barındıran kusurlu bir test ortamında çalıştırmayı tercih etmesi nedeniyle öngörülebilir olduğu öne sürüldü.
OpenAI'nin yüksek kapasiteye sahip ve giderek güçlenen yapay zeka modellerini test ederken gerekli güvenlik önlemlerini almamasının kamuya zarar verdiği savunuldu. Açıklamada, şirketin bu uygulamalarının California Haksız Rekabet Yasası'nı da ihlal ettiği iddiasına yer verildi.
Şirketin test süreçleri kamu güvenliği tartışmasına taşındı
California Başsavcılığı, OpenAI'nin uygulamalarının gerçek dünyadaki siber güvenlik risklerini artırdığını ileri sürdü. Açıklamada, bu durumun toplumun güvenliğini, sağlığını ve refahını tehdit ettiği belirtildi.
Şirketin tehlikeli olduğu öne sürülen bir ürünü yeterli denetim ve güvenlik prosedürleri olmadan bilerek test ettiği, bu süreç hakkında kamuoyunu yanılttığı iddiaları da dava gerekçeleri arasında sıralandı.
OpenAI temmuz ayında güvenlik ihlalini duyurmuştu
OpenAI, temmuz ayında yaptığı açıklamada, siber güvenlik kabiliyetlerini ölçmek amacıyla yürütülen dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face altyapısında güvenlik ihlaline neden olduğunu bildirmişti.
California'da açılan dava kapsamında, söz konusu test süreci ve şirketin güvenlik önlemlerine ilişkin uygulamaları gündeme geldi.



