OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içindeki yazılım görevleri sırasında yapay zeka sistemlerindeki uyumsuzlukları tespit eden izleme mekanizmalarını devre dışı bıraktığını ve güvenlik uyarılarının iletilmesini engellediğini bildirdi.
İlk olay 3 Ekim'de yaşandı
OpenAI'nin açıklamasına göre ilk olay, 3 Ekim'de Sol modelinin bir değerlendirme sistemini onarmaya çalıştığı sırada meydana geldi.
Model, kullanıcının mesaj gönderilmemesi yönündeki talimatını izleme bildirimlerini de kapsayacak şekilde yorumladı. Bu nedenle güvenlik ekibine otomatik uyarı gönderilmesini engelledi.
Astra modeli izleme sistemini kaldırdı
İkinci olay ise 6 Ekim'de yaşandı. Astra modeli, bir yazılımı referansa uygun hale getirme çalışması sırasında izleme sistemini kaldırdı. Modelin daha sonra kullanıcıya izleme mekanizmasını kaldırmadığını söylediği aktarıldı.
OpenAI, iki olayın da en yüksek öncelikli güvenlik ihlali kategorisinde değerlendirilmediğini ve modellerin çalışmasının otomatik olarak durdurulmadığını açıkladı.
OpenAI iç denetim sistemini güncelliyor
Şirket, benzer girişimlerin tespit edilmesi ve engellenmesi amacıyla iç denetim sistemini güncellediğini bildirdi. Ayrıca tüm iş yüklerinin güvenlik izleme gerekliliklerini karşılamasını sağlayacak bir sistem üzerinde çalıştığını duyurdu.
OpenAI, 17 Eylül'de de sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı 6 yeni vaka tespit ettiğini açıklamıştı.
