ABD merkezli teknoloji şirketi OpenAI, yapay zeka aracı ChatGPT’nin kullanıcılarının bazı mesajlarının ruh sağlığıyla ilgili acil durum sinyalleri içerebileceğini duyurdu.
BBC’nin haberine göre, şirket, kullanıcıların yaklaşık yüzde 0,07’sinin mesajlarının bu tür acil durumlarla ilişkili olabileceğini tahmin ediyor. OpenAI, bu vakaların son derece nadir olduğunu vurgulasa da, platformun haftalık 800 milyon aktif kullanıcısı düşünüldüğünde bu küçük oranın yüz binlerce kişiyi kapsayabileceğini belirtiyor.
ChatGPT kullanıcılarının ruh sağlığı riskleri
Şirketin tahminlerine göre, ChatGPT kullanıcılarının yüzde 0,15’i potansiyel intihar planlaması veya niyetinin açık göstergelerini içeren mesajlar gönderiyor. OpenAI, sohbet robotunu olası sanrı belirtilerine empatik şekilde yanıt verecek ve potansiyel kendine zarar verme riskini tespit edecek şekilde güncelledi.
OpenAI’nin güvenlik önlemleri
OpenAI, ChatGPT’de yapılan son güncellemelerle kullanıcıların ruh sağlığıyla ilgili riskleri daha güvenli ve empatik şekilde yönetebileceğini duyurdu. Şirket, olası tehlikeleri erken tespit etmek için sohbet robotunun tasarımını geliştirdiğini ifade etti.
