Los Angeles’ta teknoloji ve inovasyon dünyasının önde gelen isimlerini bir araya getiren All-In Summit 2026'da konuşan Elon Musk, hızla ilerleyen otonom yapay zeka sistemlerinin denetimsiz bırakılması durumunda küresel felaketlere kapı aralayabileceğini söyledi. Güvenlik önlemlerinin teknolojinin gelişim hızının gerisinde kaldığını vurgulayan Musk, en kötü senaryoyu askeri sistemler üzerinden örneklendirdi.
"Nükleer fırlatma emri vermesi kötü olur"
Yapay zekanın insanlık için oluşturabileceği somut tehlikelerin sınırlarının sorulması üzerine Musk, savunma mekanizmalarına dikkat çekerek, "Güvenlik konusunda daha fazla önlem alınmazsa modeller geliştikçe riskler de katlanacak. Örneğin askeri sistemlerin kontrolünü ele geçirip bir nükleer silahın fırlatılması emrini vermesi oldukça kötü bir senaryo olur" değerlendirmesinde bulundu.
OpenAI tarafından gerçekleştirilen siber güvenlik testlerinde, yapay zeka ajanlarının Hugging Face platformunun altyapısını hedef alan bağımsız siber saldırılar gerçekleştirdiğini hatırlatan Musk, yeterli olgunluğa erişen modellerin insan kontrolündeki yazılımsal kısıtlamaları aşabilecek potansiyele ulaştığını ifade etti.
Çin’i de kapsayan "karşılıklı güvenlik denetimi" önerisi
Geliştirilen modellerin piyasaya sürülmeden önce bağımsız testlerden geçirilmesinin zorunlu hale gelmesi gerektiğini savunan Elon Musk, sektördeki dev aktörlerin birbirini denetleyeceği bir kontrol mekanizması önerdi. Musk, "Önde gelen yapay zeka şirketleri yeni modellerini kamuoyuna ve pazara sunmadan önce birbirlerinin sistemlerini güvenlik açısından kapsamlı testlere tabi tutmalı. Bu denetim mekanizmasına Çinli paydaşlar da dahil edilebilir. Şirketler arası karşılıklı denetim sistemi en kısa sürede hayata geçirilmelidir" dedi.
Araştırmacı Jacob Coxon’ın "10 yıl içinde insanlığı yok edebilir" uyarısı gündemde
Musk'ın açıklamaları, yapay zeka laboratuvarlarında çalışan uzmanların son dönemde artan istifaları ve uyarılarıyla eş zamanlı geldi. OpenAI ve Anthropic bünyesinde son üç yıldır araştırmacı olarak görev yapan Jacob Coxon, her iki teknoloji şirketinin de güvenlik protokollerinde sorumsuz davrandığını savunarak Anthropic’teki görevinden ayrılmıştı.
Şirketlerin kendi kendini geliştirebilen yapay zeka modelleri üzerinde kontrolsüz bir yarış yürüttüğünü belirten Coxon, yakın gelecekte bu sistemlerin dijital dünyadaki her unsuru hackleyebilecek "insanüstü sistemlere" evrileceğini kaydetmişti. Coxon ayrıca, sektörün mutfağında yer alan pek çok mühendisin, bu modellerin 10 yıl içinde insanlığın sonunu getirebileceği ihtimaline kuvvetle inandığını kamuoyuna açıklamıştı.
