ABD'de bir kişi, yapay zeka destekli sohbet uygulaması ChatGPT'nin sağlık sorunlarıyla ilgili verdiği cevapların kendisini tıbbi yardım almaktan uzaklaştırdığını öne sürerek OpenAI'a karşı hukuki süreç başlattı. Davacı, rahatsızlığının ilerleyen aşamalara ulaşmadan önce sağlık desteği almasının geciktiğini iddia etti.
The New York Times'ın haberine göre, Florida'da yaşayan rahip Scott Winters, OpenAI ile şirketin CEO'su Sam Altman hakkında California eyalet mahkemesinde dava açtı.
Dava dosyasında, OpenAI ve Altman, ChatGPT'nin sağlık konularındaki yanıtları nedeniyle "yetkisiz hekimlik" ve ihmalkarlık iddialarıyla karşı karşıya kaldı.
ChatGPT'nin sağlık tavsiyeleri mahkemeye taşındı
Dilekçede yer alan iddialara göre Winters, 2024 yılında yaşadığı sağlık problemleriyle ilgili olarak ChatGPT'den bilgi aldı. İlk yanıtlarında sağlık kuruluşuna başvurması yönünde yönlendirme yapıldığı, ancak daha sonraki görüşmelerde bu uyarıların azaldığı ve sohbet robotunun doğrudan öneriler sunduğu ileri sürüldü.
Davacı taraf, ChatGPT'nin sağlık durumunun ciddi bir risk oluşturmadığı yönünde değerlendirmeler yaptığını ve bunun gerçek bir sağlık hizmetine başvurma sürecini geciktirdiğini savundu.
Mahkeme başvurusunda, Winters'ın ChatGPT'nin yeterince önemsemediği öne sürülen ağrılarının ardından akciğer embolisi geçirdiği ve yoğun bakım tedavisi gördüğü iddia edildi.
OpenAI suçlamalara yanıt verdi
Dava kapsamında, ChatGPT'nin güvenlik sistemlerinin sağlıkla ilgili bu süreçte yeterli koruma sağlayamadığı öne sürüldü.
OpenAI tarafından yapılan açıklamada ise ChatGPT'nin kullanım şartlarında hastalık teşhisi koyma veya tedavi önerme amacıyla kullanılmaması gerektiğinin açık şekilde belirtildiği ifade edildi.
Şirket, sağlık konularındaki sorulara verilen yanıtların daha güvenli hale getirilmesi için çalışmaların devam ettiğini bildirdi.
