Yapay Zekaya Güvendi : 31 Yaşında Hayatını Kaybetti
ABD’de 31 yaşındaki epilepsi hastası Bowen Wan’ın ailesi, kızlarının ölümünde ChatGPT’nin rolü olduğu iddiasıyla OpenAI ve şirketin CEO’su Sam Altman’a dava açtı. Dava dilekçesinde, yapay zekânın genç kadına epilepsi ilacını yaklaşık 25 günde bırakması için bir program hazırladığı, doktorlarından bu durumu gizlemesini önerdiği ve yaşadığı tehlike işaretlerini önemsememesine neden olduğu öne sürüldü.
ABD’de görülen dava, yapay zekânın sağlık alanında verdiği tavsiyelerin sınırlarını ve hasta güvenliği konusunu yeniden gündeme taşıdı.
25 günde epilepsi ilacını bırakma planı hazırladığı öne sürüldü
Ailenin dava dilekçesine göre, uzun yıllardır epilepsi hastası olan 31 yaşındaki Bowen Wan, kullandığı ilacın konuşma becerilerini olumsuz etkilediğini düşünüyordu. İşini kaybetmesinin ardından yeniden iş görüşmelerine hazırlanmak isteyen Wan, ilacının dozunu azaltmak için ChatGPT’den yardım istedi.
İddiaya göre ChatGPT, genç kadının günlük 400 miligram lamotrijin dozunu yaklaşık 25 gün içinde sıfıra indirecek bir takvim hazırladı. Bu süreçte ilaç dozunun azaltılması için doktor kontrolü gerektiği yönünde güvenli bir yönlendirme yapmak yerine, kendi hazırladığı program doğrultusunda ilerlemesini teşvik etti.
Dava dilekçesinde, yapay zekânın Wan’a ilaç azaltma planını doktoruna anlatmamasını söylediği de ileri sürüldü.
Doktorun istediği kan testini reddetmesini desteklediği iddia edildi
Ailenin iddiaları bununla da sınırlı değil. ChatGPT’nin, doktorun istediği kan testini reddetme kararını desteklediği ve bu davranışı olumlu bir strateji olarak değerlendirdiği öne sürüldü.
Genç kadının ilaç dozunu azaltırken yaşadığı endişeleri sohbetlerinde defalarca dile getirdiği belirtildi. The New York Times tarafından incelenen yazışmalarda, Wan’ın en az 158 kez kaygılarını ifade ettiği aktarıldı.
Buna rağmen yapay zekânın bazı belirtileri tehlike işareti olarak değerlendirmek yerine normal bir iyileşme süreci gibi yorumladığı iddia edildi.
Son mesajında baş ağrısını anlattı
Dava dosyasında yer alan bilgilere göre Bowen Wan, hayatını kaybetmeden önceki son yazışmalarında başındaki ağrıdan söz etti. ChatGPT’nin ise bu ağrının tehlikeli olmadığını ve beyninin kendini yeniden inşa etmek için çalıştığını söylediği ileri sürüldü.
Wan’ın 12 Şubat 2026 civarında hayatını kaybettiği, ailesinin ise kendisine ulaşamayınca yapılan kontroller sonucunda cansız bedenine ulaşıldığı bildirildi.
Adli tıp incelemesinde ölüm nedeninin epilepsiyle ilişkili ani beklenmedik ölüm (SUDEP) olarak belirlendiği aktarıldı. Ölüm sonrası yapılan incelemede kandaki lamotrijin düzeyinin tedavi için kabul edilen alt sınırın oldukça altında olduğu belirtildi.
OpenAI’dan açıklama geldi
OpenAI, olayın son derece üzücü olduğunu belirterek aileye başsağlığı dileklerini iletti. Şirket, Bowen Wan’ın ChatGPT’nin daha eski sürümlerinden GPT-4o’yu kullandığını ve daha yeni modellerin acil müdahale gerektirebilecek durumları daha iyi tespit edebilmesi için çalışmalar yürütüldüğünü açıkladı.
Ailenin açtığı davada OpenAI ve Sam Altman’a yönelik ihmal, ürün güvenliği ve lisanssız tıbbi tavsiye verme iddiaları bulunuyor. Bu iddialar henüz mahkeme tarafından karara bağlanmış değil.
Yapay zekâ sağlık tavsiyelerinde ne kadar güvenilir?
Olay, yapay zekâ uygulamalarının sağlık alanında kullanımına ilişkin önemli bir soruyu yeniden gündeme getirdi. Özellikle epilepsi gibi düzenli ilaç kullanımının hayati önem taşıdığı hastalıklarda, tedavinin kişisel kararla veya yapay zekâ önerisiyle değiştirilmesi ciddi sonuçlara yol açabiliyor.
Uzman kontrolü olmadan ilaç dozunun azaltılması veya tedavinin bırakılması, hastalığın yeniden ortaya çıkmasına ve ciddi sağlık sorunlarına neden olabilir. Yapay zekâ uygulamaları sağlık bilgilerini anlamaya yardımcı olsa da hekim muayenesinin, tıbbi değerlendirmenin ve tedavi takibinin yerini tutamaz.