Yapay zeka alanındaki hızlı gelişmeler, teknoloji şirketlerinde görev yapan bazı araştırmacıların güvenlik ve kontrol konusundaki endişelerini yeniden gündeme taşıdı. Anthropic çalışanı Jacob Coxon, şirketten ayrıldığını duyurduğu paylaşımında hem Anthropic hem de OpenAI'ın yapay zeka geliştirme sürecinde yeterince sorumlu davranmadığını savundu.
Son üç yıldır OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirten Coxon, sosyal medya platformu X üzerinden yaptığı açıklamada istifa kararının gerekçelerine ilişkin değerlendirmelerde bulundu.
Coxon yapay zeka yarışına dikkat çekti
Coxon, önde gelen yapay zeka şirketlerinin kendi kendini geliştirebilen süper zekaya ulaşabilmek için giderek hızlanan bir rekabet içerisinde olduğunu ileri sürdü. Bu yarışın, teknolojinin oluşturabileceği risklerin yeterince dikkate alınmadan sürdürülmesinden endişe duyduğunu belirten araştırmacı, yapay zekanın kapasitesinin küçümsenmemesi gerektiğini ifade etti.
Coxon paylaşımında şu ifadeleri kullandı:
"Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. Bu alanların her birindeki ilerlemeye tanık olduk ve bu süreç yavaşlamıyor."
Araştırmacı, yapay zeka sistemlerinin yeteneklerinin hızla geliştiğini ve bu ilerlemenin yavaşlamadığı görüşünü dile getirerek, teknoloji şirketlerinin güvenlik konusunda daha kapsamlı adımlar atması gerektiğine işaret etti.
“İnsanlığı öldürebileceğine” inanıyorlar iddiası
Coxon, yapay zeka modellerinin geliştirilmesinde görev alan bazı sektör çalışanlarının, gelişmiş sistemlerin önümüzdeki 10 yıl içerisinde insanlık açısından ölümcül sonuçlar doğurabileceğine ciddi biçimde inandığını öne sürdü.
Araştırmacı ayrıca, şirket yöneticilerinin kamuoyu önünde daha ölçülü açıklamalar yapmasına rağmen, yapay zekanın oluşturabileceği tehlikeler konusunda şirketlerin kapalı kapılar ardında ciddi endişeler taşıdığını iddia etti.
Coxon'a göre teknoloji alanındaki hızlı ilerleme, yalnızca teknik bir rekabet olmaktan çıkarak güvenlik ve insanlığın geleceği açısından da tartışılması gereken bir noktaya ulaştı.
Anthropic yönetimine yönelik eleştiri
Coxon, Anthropic yönetiminin de yapay zeka yarışında geri kalmamak için riskleri göze alan bir yaklaşım benimsediğini savundu.
Araştırmacı, şirket yönetiminin "riske rağmen ilk kendilerinin hedefe ulaşması gerektiği" fikrine odaklandığını öne sürerek bu yaklaşımı "özel bir şirketin dahili iletişim uygulamasından yürütülemeyecek kadar kibirli bir kumar" sözleriyle değerlendirdi.
Coxon'un açıklamaları, yapay zeka şirketlerinin gelişmiş sistemleri ne kadar hızlı geliştirmesi gerektiği ve bu süreçte hangi güvenlik önlemlerinin alınması gerektiği konusundaki tartışmaları yeniden gündeme taşıdı.
Coxon'un paylaşımı sosyal medyada gündem oldu
Araştırmacının istifasını ve yapay zeka sektörüne yönelik eleştirilerini içeren paylaşımı kısa sürede milyonlarca görüntülenmeye ulaştı. Çok sayıda sosyal medya kullanıcısı, Coxon'un açıklamalarının ardından yapay zekanın geleceğine ilişkin riskler konusunda görüşlerini paylaştı.
ABD'li milyarder Bill Ackman da Coxon'un paylaşımını alıntılayarak gelişmeleri "endişe verici" olarak nitelendirdi.
Andrew Yang isimli kullanıcı ise yapay zeka alanındaki risklerin toplumun önemli bir bölümü tarafından yeterince fark edilmediğini belirterek, "Çoğu kişinin farkında olduğundan daha büyük riskler alıyoruz ve çok geç olmadan mümkün olan en kısa sürede uyum sağlamalıyız" dedi.
Alex Berenson da yapay zekanın oluşturabileceği riskleri inceleyecek küresel bir komisyon kurulması gerektiğini savunarak, "Hiçbir ekonomik kazanç, böyle bir kumarı göze almaya değmez." ifadesini kullandı.
Krystal Ball ise Coxon'un açıklamalarını "sektörden birisinin vahim bir uyarısı daha" sözleriyle değerlendirdi ve yapay zekanın geleceğine ilişkin endişelerini dile getirdi.
