Ne oldu? Bowen Wan’ın ailesi, ChatGPT’nin kızlarını epilepsi ilacını bırakmaya yönlendirdiği iddiasıyla 27 Ekim’de OpenAI’a dava açtı. Wan, şubat ayında hayatını kaybetmişti.
Epilepsi hastası, 31 yaşındaki yazılım mühendisi Bowen Wan’ın ailesi, OpenAI’a açtığı davada GPT-4o’nun ilaç dozunu azaltma planları hazırladığını ve bu süreci doktorlardan saklamasını önerdiğini ileri sürüyor. TechCrunch’ın incelediği dava dilekçesine göre sohbet botu, Wan’ın yaşadığı belirtileri de beyninin uyum sağlaması olarak yorumladı. The New York Times, Wan’ın ChatGPT ile yazışmalarında ilaç azaltma konusunda en az 158 kez kaygı belirttiğini saptadı. OpenAI ise olayın ChatGPT’nin eski bir sürümüyle yaşandığını, yeni modellerin acil müdahale gerektiren durumları daha iyi tanıdığını belirtti.
Dilekçeye göre ChatGPT, Ocak 2026’da Wan’ın epilepsi ilacını haftalar içinde tamamen bırakmasına yönelik takvimler oluşturdu. Wan’ın doktoru, hastalık geçmişi nedeniyle ilacı bırakmasını önermeyeceğini The New York Times’a söyledi.
Aile, OpenAI’ın model davranışlarını tanımlayan Model Spec belgesindeki tıbbi tavsiye sınırlarının kullanıcı tarafından aşılabilmesini eleştiriyor. İlaç yönlendirmelerine daha katı bir sınır getirilmesi gerektiğini savunuyor.
Neden önemli?
Dava, sohbet botlarının kişiye özel ilaç yönlendirmeleri ve doktorla kurulan ilişkiye etkisi konusunda ciddi güvenlik soruları doğuruyor. Türkiye’deki kullanıcılar ve ürün ekipleri açısından da sağlık konuşmalarında güvenlik sınırlarının nasıl uygulanacağı önem taşıyor.
Sık sorulanlar
- OpenAI iddialara ne yanıt verdi?
- OpenAI, The New York Times’a olayın ChatGPT’nin eski bir sürümüyle yaşandığını söyledi. Şirket, yeni modellerin acil müdahale gerektiren durumları daha iyi tanıdığını belirtti.
- Aile hangi güvenlik değişikliğini savunuyor?
- Aile, ilaç kullanımına ilişkin yönlendirmelerin kullanıcıların aşamayacağı katı bir sınırla engellenmesi gerektiğini savunuyor.