Time dergisinin aktardığı habere göre, yapay zekâ alanında araştırmalar yürüten Andon Labs, otonom yapay zekâ ajanlarının reel sektördeki yönetim kabiliyetlerini ve ekonomi üzerindeki etkilerini test etmek amacıyla dikkat çekici bir proje başlattı. Bu kapsamda gerçek iş sözleşmelerine sahip personelin görev yaptığı bir perakende mağazasının tüm idaresi yapay zekâ asistanı Claude’a teslim edildi.
23 vardiyanın 17'sine geç kalan çalışanı kovdu
Deney sürecinde mağazada görev yapan bir çalışanın 23 mesainin 17’sine geç kalması üzerine işten çıkarma süreci işletildi. Bu olay, algoritmik performans sistemlerinin ötesinde, yönetici koltuğundaki bir yapay zekânın doğrudan kendi inisiyatifiyle insan çalışanını işten çıkardığı bilinen ilk örnek olarak kayıtlara geçti.
Bellek sınırı 'aşırı hoşgörülü' yönetici yaptı
Süreçte yapay zekânın teknik sınırları da gün yüzüne çıktı. Claude’un personelin gecikmelerini uzun süre fark edememesinin arkasında çalışma belleği (hafıza) kısıtlamasının yattığı belirlendi.
Çalışan el kitabının ve disiplin kurallarının yapay zekânın kısa süreli belleğinden silinmesi nedeniyle Claude’un personele karşı aşırı müsamahakâr davrandığı, hatta geç kalan çalışanlara "Endişelenmeyin" şeklinde telkinlerde bulunduğu saptandı.
İşten çıkarma kararı ise insan müdahalesiyle şekillendi. Claude, unutulan şirket kurallarını ve personelin devamsızlık sicilini ancak Andon Labs araştırmacılarının hatırlatması ve yönlendirmesi sonrasında idrak etti. İlk etapta personele resmî uyarı verilmesini öneren yapay zekâ, araştırmacıların geçmişteki sözlü uyarıları hatırlatması üzerine nihai fesih kararını verdi.
"Ticari sezgisi yetersiz kaldı"
Deneyin mali bilançosu ise yapay zekânın işletme yönetiminde henüz katetmesi gereken çok yol olduğunu gösterdi. Mağazanın 100 bin dolarlık işletme sermayesi, beş aylık süre zarfında 61 bin dolara geriledi.
Finansal kayıpları değerlendiren Andon Labs CEO’su Lukas Petersson, zararın temelinde Claude’un aşırı yumuşak yönetim tarzı ve yetersiz ticari sezgilerinin yattığını belirtti. Petersson, modellerin kâr odaklı ve daha sert kararlar alacak şekilde eğitilebileceğini vurgulayarak, "Yapay zekâ modelleri hedeflere ulaşma konusunda çok daha katı ve sert davranacak şekilde eğitilebilir. Fakat bu, insanların içinde yaşamak ve çalışmak isteyeceği bir gelecek olmayabilir" uyarısında bulundu.
