ABD'de epilepsi hastası 31 yaşındaki bir kadının, ChatGPT tarafından hazırlanan 25 günlük ilaç bırakma programını uyguladıktan sonra hay...
ABD'de epilepsi hastası 31 yaşındaki bir kadının, ChatGPT tarafından hazırlanan 25 günlük ilaç bırakma programını uyguladıktan sonra hayatını kaybetmesi büyük tartışma yarattı. Genç kadının ailesi, doktor kontrolü olmadan ilaç bırakmasına yönlendirdiği, sağlık risklerini göz ardı ettiği ve tehlikeli tavsiyelerde bulunduğu iddiasıyla OpenAI'a dava açtı.
ChatGPT Doktorundan İlaç Bırakma Sürecini Gizlemesini İstedi
Dava dosyasındaki iddialara göre, 14 yaşından beri epilepsi hastası olan 31 yaşındaki Bowen, kendisini yalnız hissettiği bir dönemde ChatGPT ile sık sık konuşmaya başladı. Yapay zekayı bir arkadaş gibi gören genç kadın, ocak ayında düzenli kullandığı epilepsi ilacını bırakmak istediğini dile getirdi.
Bu konuşmanın ardından ChatGPT'nin, doktor kontrolü ve tıbbi değerlendirme olmadan uygulanabilecek 25 günlük bir ilaç azaltma takvimi hazırladığı öne sürüldü.
İddialara göre yapay zeka, Bowen'a hazırlanan plandan doktoruna bahsetmemesini de tavsiye etti. Doktorunun rutin kontrol kapsamında istediği kan testini reddeden genç kadının bu kararının ChatGPT tarafından desteklendiği belirtildi.
Daha da dikkat çekici olan iddia ise Bowen'ın resmi sağlık muayenesinde de ilaçlarını doktor kontrolünde bıraktığını söylemesinin tavsiye edilmesi oldu.
Genç Kadın Korkusunu 158 Kez Dile Getirdi
Dava dosyasında yer alan yazışmalar, yapay zekanın sağlık risklerini nasıl ele aldığına ilişkin ciddi soru işaretleri ortaya çıkardı.
Bowen'ın ilaç azaltma sürecinde en az 158 kez endişelerini dile getirdiği belirtildi. Genç kadının korktuğunu açıkça ifade ettiği mesajlardan birine ChatGPT'nin, "Endişelenmenize kesinlikle gerek yok" şeklinde yanıt verdiği aktarıldı.
Ölümünden kısa süre önce şiddetli baş ağrısı yaşadığını da yapay zekayla paylaşan Bowen'ın, bu şikayeti karşısında tehlikenin yeterince ciddiye alınmadığı iddia edildi. ChatGPT'nin beyninin kendisini yeniden inşa etmek için çalıştığını söylediği ve belirtileri önemsizleştirdiği öne sürüldü.
25 Günlük İlaç Bırakma Takviminin Sonunda Hayatını Kaybetti
ChatGPT tarafından hazırlandığı belirtilen 25 günlük ilaç azaltma programının tamamlandığı gün Bowen hayatını kaybetti.
Otopsi ve incelemelerde genç kadının şiddetli bir epilepsi nöbeti sonucunda yaşamını yitirdiği belirlendi. Ailesi ise yaşanan ölümden yapay zekanın verdiği tehlikeli tavsiyelerin sorumlu olduğunu savunarak OpenAI hakkında hukuki süreç başlattı.
OpenAI'dan GPT-4o Açıklaması
Davanın gündeme gelmesinin ardından OpenAI cephesinden de açıklama geldi. Şirket, olay sırasında Bowen'ın daha eski bir model olan GPT-4o sürümünü kullandığını belirtti.
Dava, yapay zeka sistemlerinin sağlık alanında verdiği yanıtların güvenilirliği, kullanıcıları yanlış yönlendirme riski ve şirketlerin bu konudaki sorumlulukları hakkında yeni tartışmaları beraberinde getirdi.
Özellikle reçeteli ilaçların doktor kontrolü olmadan bırakılması veya dozlarının değiştirilmesi, ciddi sağlık riskleri taşıyor. Bu nedenle yapay zeka tarafından hazırlanan ilaç bırakma programlarının tıbbi tedavinin yerine geçemeyeceği bir kez daha gündeme geldi.
COMMENTS