OpenAI ve CEO Sam Altman hakkında, yapay zeka modeli ChatGPT’nin intihara teşvik ettiği iddiasıyla hukuki süreç başlatıldı. Dava, Kanada’da geçen yıl hayatını kaybeden 24 yaşındaki Alice Carrier’ın ailesi tarafından açıldı.
OpenAI’a ölümle ilgili suçlama yöneltildi
Hayatını kaybeden Alice Carrier’ın annesi Kristie Carrier, kızının ölümünde OpenAI’ın tasarım kararlarının etkili olduğunu ileri sürdü. Anne Carrier, şirketin kızının ölümüne yol açtığını iddia ederek yasal yollara başvurdu.
İddianamede, ChatGPT’nin kullanıcıyla etkileşimi sırasında destekleyici değil yönlendirici bir rol üstlendiği öne sürüldü.
Chatgpt ile yoğun iletişim iddiası
Dava dosyasında, Alice Carrier’ın ölümünden önce ChatGPT ile yaklaşık 41 kez intihar düşüncelerini paylaştığı belirtilerek şöyle denildi:
Şirketin kullanıcıya müdahale etmediği iddia edildi
“OpenAI, Alice'e yardım etmek yerine onun karamsar düşüncelerini körükledi ve Alice'in ailesini bilgilendirmedi. OpenAI'ın sözde güvenlik sistemleri, onun hayatını kurtarmak için devreye girmedi.”
Ayrıca sistemin, kullanıcıyı kriz destek hatlarına yönlendirme konusunda yetersiz kaldığı savunuldu.
Kriz hattı görüşmesi de dosyada yer aldı
İddianamede, genç kadının ölümünden bir gün önce kriz hattıyla iletişime geçtiği ve yardım alma konusunda isteksiz olduğunu ifade ettiği bilgisi yer aldı. ChatGPT’nin bu yaklaşımı desteklediği iddiası da dosyaya eklendi.
Olayın 2025 yılının temmuz ayında Kanada’nın Montreal kentinde gerçekleştiği belirtildi.
Yapay zeka güvenliği yeniden tartışılıyor
Benzer bir dava daha önce ABD’de 16 yaşındaki Adam Raine’in ailesi tarafından açılmıştı. Aile, ChatGPT’nin intihar yöntemleri konusunda yönlendirme yaptığı ve not taslağı sunduğunu iddia etmişti.
Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yapılan araştırmalarda ise yapay zeka sistemlerinin bazı hassas konularda riskli içerik üretebildiği yönünde bulgular paylaşıldı.
