Dijitalleşen dünyada karar verme süreçlerinin yapay zekaya devredilmesi, bilim dünyasında endişelere yol açmaya başladı. Yapay zekaya güven araştırması kapsamında yayımlanan yeni bir bilimsel makale, bireylerin OpenAI'ın ChatGPT'si, Google'ın Gemini'ı veya Anthropic'in Claude'u gibi sohbet botlarından gelen yanıtlara yönelik eleştirel yaklaşımını kaybettiğini ortaya koydu.
Pennsylvania Üniversitesi’nden Steven Shaw ve Gideon Nave tarafından yürütülen güncel çalışma, bu sistemlerin düzenli olarak hata yapmasına rağmen, insanların sunulan talimatları doğruluğunu sorgulamadan uygulama eğiliminde olduğunu gösterdi.
Yanlış bilgiye itaat oranı dikkat çekiyor
Türkiye Gzetesi'nde yer alan habere göre; araştırma dahilinde gerçekleştirilen deneylerde, yapay zekanın hatalı talimatları karşısında insan davranışları analiz edildi. Elde edilen çarpıcı sonuçlara göre katılımcılar, yapay zekanın doğru önerilerine yüzde 92,7 oranında uyum sağladı. Ancak araştırmanın asıl dikkat çeken noktası, yapay zeka bilerek yanlış bilgi verdiğinde bile katılımcıların yüzde 79,8’inin bu hatalı talimatları harfiyen uygulaması oldu.
Bilişsel süreçlerin dış kaynağa devredilmesi riskli mi?
Araştırmanın yazarlarından Steven Shaw, toplumun içinde bulunduğu bu durumu "bilişsel süreçlerin dış kaynağa devredilmesi" olarak tanımlıyor. Katılımcıların yarısından fazlasının kendi birikimlerini kullanmak yerine dijital sistemlere yöneldiğini belirten Shaw, sürece dair şu uyarıda bulundu: “Düşünme yetimizi yapay zekaya bu denli hızlı bırakmamız aslında sarsıcı bir fikir.”
Mantıklı görünen ama tamamen uydurma bilgiler
Profesör Gideon Nave ise yapay zeka modellerinin ikna edici konuşma yeteneklerinin yanıltıcı olabileceği konusunda uyarılarda bulunuyor. Modellerin sunduğu verilerin yapısına dikkat çeken Nave, “Yapay zeka modelleri ne kadar ikna edici konuşursa konuşsun, sundukları bilgiler mantıklı görünen ama tamamen uydurma olabilir” ifadelerini kullandı.
