Meta’nın kullanıcı adına e-posta gönderebilen, alışveriş yapabilen, seyahat rezervasyonu ayarlayabilen ve doğrudan telefon görüşmeleri gerçekleştirebilen yeni kişisel yapay zekâ asistanı Muse, piyasaya sürülmesinin ardından küresel ölçekte yoğun bir tartışmanın merkezine oturdu. ABD’de kısa sürede indirme listelerinin zirvesine yerleşen ve Sensor Tower verilerine göre 2,5 milyondan fazla kullanıcıya ulaşan uygulamanın telefonla arama özelliğinde, yapay zekâ yerine taşeron "insan ajanların" devreye sokulduğu ortaya çıktı.
Uygulamanın tanıtımında öne çıkan otonom telefon araması yeteneği; kullanıcıların kuaför randevusu alması, mağazalardaki stok durumunu sorgulaması veya işletmelerden fiyat teklifi toplaması amacıyla geliştirilmişti. Ancak Reuters’ın ulaştığı şirket içi yazışmalar ve kayıtlar, arama operasyonlarının bir kısmının gerçek çağrı merkezi çalışanları tarafından yürütüldüğünü gözler önüne serdi.
Yüzde 98 hedefi gizlilik krizine yol açtı
Şirket içi değerlendirmelerde Meta, yalnızca yapay zekâ ile yürütülen sesli görüşmelerde başarı oranının düşük kaldığını, buna karşın sisteme "eğitimli insan ajanların" dahil edilmesiyle operasyonel verimliliğin yüzde 95 ila 98 bandına çekilebileceğini belirtti. Özellikle karşıdaki işletmelerin hatta bir yapay zekâ olduğunu anladıklarında görüşmeyi sonlandırması üzerine Meta, geçen hafta çalışanlarının yarısını kapsayan bir "insan destekli arama" denemesini devreye aldı.
Ancak kullanıcıların yapay zekâya emanet ettiğini düşündüğü özel görüşmelerin insan operatörler tarafından dinlenmesi ve yönetilmesi, Meta bünyesinde ciddi bir veri gizliliği krizine dönüştü. Bir çalışan, üçüncü taraf yüklenicilerin özel konuşmalara dahil edilmesinin kullanıcıların gereksiz ve hassas kişisel verilerinin ifşa olmasına yol açacağını savundu.
Görüşme kaydında ırkçı ifade skandalı: Özellik geri çekildi
Gizlilik tartışmalarının sürdüğü esnada yaşanan bir skandal süreci daha da tırmandırdı. Bir Meta çalışanı, internet ve kablo sağlayıcısıyla fatura indirimi pazarlığı yapması için Muse’u görevlendirdiğinde, görüşme dökümünde aramayı yapan insan yüklenicinin ırkçı bir ifade kullandığını tespit etti.
Hadisenin şirket içine yansıması üzerine Meta Superintelligence Labs biriminden üst düzey bir başkan yardımcısı durumun kabul edilemez bir hata olduğunu belirterek ilgili özelliğin askıya alındığını bildirdi. Söz konusu ırkçı ifadeyi kullanan personelin ilişiğinin kesildiği ve Meta projelerinden menedildiği açıklandı.
Yaşananlar, şirketin Muse’u piyasaya sürerken verdiği "her ajanın izole bir sanal makinede çalıştığı ve parolalar dahil tüm kişisel verilerin mutlak güvenlik altında tutulduğu" yönündeki taahhütlerini de tartışmalı hale getirdi.
Meta'dan savunma: "Test güvenlik ve gizliliği geliştirmek için yapıldı"
Konuya ilişkin açıklama yapan Meta Sözcüsü Daniel Roberts, çalışanlardan gelen geri bildirimlerin ağırlıklı olarak olumlu olduğunu öne sürdü. İnsan ajanlarla yürütülen testlerin güvenlik ve gizlilik protokollerini daha sağlam temellere oturtmak gayesiyle tasarlandığını belirten Roberts, bu özelliğin ancak tüm hazırlıklar tamamlandıktan ve kullanıcılara açık bilgilendirmeler yapıldıktan sonra kamuoyuna açılabileceğini ifade etti.
Tüm bu etik ve güvenlik tartışmalarına karşın yatırımcıların yapay zekâ entegrasyonuna gösterdiği ilgi devam etti. Muse’un çıkışıyla birlikte Meta hisseleri yüzde 20’nin üzerinde değer kazanarak şirketin piyasa değerine 200 milyar doların üzerinde katkı sağladı.
