OpenAI’ın Küresel İlişkiler Başkanı Chris Lehane, yapay zekâ teknolojisinin siber güvenlik açısından yeni bir döneme girdiği uyarısında bulundu. The Guardian’a konuşan Lehane, özellikle açık kaynaklı yapay zekâ modellerinin siber saldırılarda kullanılmasının tehditleri artırabileceğini söyledi.
OpenAI'ın, test ortamından kaçan yapay zekâ modellerinin başka şirketlere sızmasıyla artan güvenlik endişeleri nedeniyle en gelişmiş dâhilî modellerinin geliştirilmesine ara verdiği aktarıldı.
"Sürekli ve istikrarlı saldırılar düzenleyebilecekler"
Lehane, çoğu Çin'de geliştirilen açık kaynaklı yapay zekâ modellerinin OpenAI gibi şirketlerin modellerinin yalnızca birkaç ay gerisinde olduğunu belirtti.
Bu modellerin geniş kesimler tarafından erişilebilir hale gelmesinin siber saldırı riskini artıracağını söyleyen Lehane, şu ifadeleri kullandı:
"İnsanlar bu açık kaynaklı modellere erişebilecek ve size karşı sürekli ve istikrarlı saldırılar düzenleyebilecekler. Bunlara karşı koymak ve kendinizi savunmak için gerçekten üstün modellere ihtiyacınız olacak."
Lehane, bu durumun toplum açısından kolay bir süreç olmayacağını belirterek, "Bu önümüzdeki yolun gerçeği"değerlendirmesinde bulundu.
Yapay zekâ destekli siber saldırılar endişeyi artırıyor
İşletmeleri, altyapıyı ve kamu yaşamını etkileyebilecek siber saldırı ihtimali, yapay zekâya ilişkin güvenlik endişelerinin başında geliyor.
Britanya hükümetinin Ulusal Siber Güvenlik Merkezi de yapay zekâ ajanlarının kullanımında dikkatli olunması çağrısı yaptı. Merkez, kuruluşlara yapay zekâ modellerinin özerkliğinin sınırlandırılmasını tavsiye etti.
Merkez ayrıca kuruluşların gerektiğinde otonom yapay zekâ ajanlarının faaliyetlerini anında durdurabilecek mekanizmalara sahip olması gerektiğini vurguladı.
OpenAI'dan da güvenlik mesajları
OpenAI'da güvenlik ve uyum çalışmalarından sorumlu Mia Glaese, mevcut durumun normale dönmesinden hâlâ uzak olunduğunu söyledi.
OpenAI CEO'su Sam Altman da yapay zekâ güvenliğinin şirketlerin büyüme ve geliştirme hızından daha önemli olduğunu belirtti.
"Siber saldırı yetenekleri savunmadan daha hızlı gelişiyor"
Lehane, ABD hükümetine ileri teknoloji yapay zekâ güvenliği konusunda yasal düzenleme yapılması çağrısını yineledi.
Gelişmiş ve henüz piyasaya sürülmemiş yapay zekâ modellerinin siber saldırı yeteneklerini savunma kapasitesinden daha hızlı geliştirdiğini savunan Lehane, güvenlik standartlarının oluşturulmasını sağlayacak bir yasanın gerekli olduğunu söyledi.
Lehane, güvenliği kanıtlanmamış yapay zekâ modellerinin piyasaya sürülmesinin engellenebileceği bir düzenleme önerdi.
Yapay zekâ için uluslararası düzenleme çağrısı
Lehane, ABD'de oluşturulacak ulusal bir düzenlemenin ardından uluslararası bir yapının kurulabileceğini belirtti.
Yapay zekâ alanında ABD ile Çin arasındaki rekabet sürerken, Washington yönetiminin ileri seviyeye yaklaşan modellerin piyasaya sürülmeden önce test edilmesini teşvik eden adımları da tartışılıyor.
ABD Başkanı Donald Trump'ın bu yöndeki başkanlık emri, yönetimin yapay zekâ düzenlemeleri alanındaki ilk adımlarından biri olarak değerlendiriliyor. Sistemin gönüllülük esasına dayanması ve şeffaflık konusundaki eleştiriler ise tartışma yaratıyor.
Öte yandan ABD ile Çin arasında yapay zekâ güvenliği konusunda olası bir anlaşma da gündemde bulunuyor. Trump'ın 24 Eylül'de Washington'da Çin Devlet Başkanı Şi Cinping ile görüşmesi bekleniyor.
