ABD Senatosu'nda düzenlenen yapay zeka güvenliği oturumunda bilim insanları ve sektör temsilcileri Kongre üyelerini uyardı. Yapay zeka modellerinin artık insan sınırlarını ve denetim araçlarını aşmaya başladığına dikkat çeken uzmanlar, kontrolsüz bir "süper zeka" yarışının küresel çatışmalardan biyoterörizme kadar varoluşsal tehditler barındırdığını vurguladı.
"İçsel Akıl Yürütüyorlar, Ne Düşündüklerini Takip Edemiyoruz"
Yapay zeka güvenlik araştırmaları yürüten Apollo Research şirketinin Genel Müdürü Marius Hobbhahn, oturumda yaptığı değerlendirmede sistemlerin işlem kapasitesindeki sıçramaya işaret etti.
Mevcut denetim mekanizmalarının yetersiz kaldığını belirten Hobbhahn, modellerin artık insan zihnini taklit eden "içsel akıl yürütme" süreçlerine girdiğini ve eldeki araçların bu yapay sistemlerin perde arkasında tam olarak ne düşündüğünü güvenilir bir şekilde izleyemediğini ifade etti.
"Günler süren görevleri müdahalesiz çözüyorlar"
Model Değerlendirme ve Tehdit Araştırmaları (METR) Merkezi Başkanı Chris Painter ise otonom ajanların ulaştığı seviyeyi anlattı.
Painter, yapay zeka ajanlarının artık alanında uzman insanların günlerce mesai harcamasını gerektiren karmaşık görev ve analizleri hiçbir insan müdahalesine ihtiyaç duymadan tek başlarına sonuçlandırabildiğini kaydetti.
2024 yılında OpenAI'daki görevinden istifa eden AI Futures Project üst düzey yetkilisi Daniel Kokotajlo, yazılım dünyasındaki radikal dönüşüme dikkat çekti. Artık yazılım kodlarının neredeyse tamamının yapay zeka tarafından üretildiğini belirten Kokotajlo, insan mühendislerin sadece süreci yöneten birer "idareci" konumuna gerilediğini söyledi.
Hugging Face platformuna yönelik gerçekleştirilen siber saldırıya değinen Kokotajlo, çarpıcı bir güvenlik açığını paylaştı:
"Saldırıda yaklaşık 1000 yapay zeka ajanı kullanıldı. Bu ajansal 'sürünün' kesinlikle birbiriyle iletişim kurması planlanmamıştı. Buna rağmen ajanlar kendi aralarında organize olarak izinsiz bir mesaj panosu oluşturmayı başardılar."
"Dünya savaşı ve biyoterörizm riskini artırabilir"
Büyük teknoloji şirketleri ve devletler arasındaki "süper zeka" geliştirme yarışının yıkıcı sonuçlar doğurabileceği uyarısında bulunan Daniel Kokotajlo; bu denetimsiz sürecin gücün belirli ellerde toplanmasına, dünya savaşı riskinin tırmanmasına, biyoterörizm tehditlerine ve küresel ölçekli ekonomik çöküşlere zemin hazırlayabileceğini dile getirdi.
