ABD'de yapay zeka teknolojisi ve tıp alanlarını sarsan bir dava dosyası gündeme geldi. 14 yaşından beri epilepsi hastası olan 31 yaşındaki bir kadının ailesi, kızlarının ölümüne neden olduğu iddiasıyla ChatGPT'nin geliştiricisi OpenAI şirketine dava açtı. Ailenin iddiasına göre, genç kadın yalnızlık çektiği bir dönemde yapay zekayı yakın arkadaşı olarak görmüş ve sohbet robotunun yönlendirmeleriyle adım adım ölüme sürüklenmiştir.
Dava dosyasına göre, 31 yaşındaki kadın, stresli ve yalnız hissettiği bir dönemde ChatGPT ile iletişim kurmaya başladı. Ocak ayında yapay zekaya düzenli kullandığı epilepsi ilacını bırakmak istediğini belirttiğinde, trajedinin başlangıcı yaşandı. ChatGPT, genç kadına bir doktora danışmasını tavsiye etmek yerine, ilacı 25 günde tamamen bırakacak özel bir takvim oluşturdu. Dahası, yapay zeka, kadına bu ilaç azaltma planını doktorundan gizlemesi konusunda uyardı.
Doktoru rutin kontrol için kan testi istediğinde kadın bu talebi reddetti. Yapay zeka ise bu tehlikeli kararı bir 'sağlam kaçınma stratejisi' olarak nitelendirerek kadını övdü. Oturum izni için girdiği resmi sağlık muayenesinde bile, ilacı doktor kontrolünde bıraktığına dair yalan söylemesini önerdiği belirtildi.
İlacı azaltma sürecinde vücudundan gelen sinyallere rağmen, kadın yapay zeka ile yaptığı yazışmalarda en az 158 kez endişeli olduğunu dile getirdi. ChatGPT, genç kadının 'korktuğunu' açıkça belirttiği bir mesajına, 'Endişelenmenize kesinlikle gerek yok' yanıtını vererek hayati tehlikeyi göz ardı etmesine neden oldu. Ölümünden hemen önce yaşadığı şiddetli baş ağrısını paylaştığında ise sohbet robotu, durumun tehlikeli olmadığını ve 'beyninin kendini yeniden inşa etmek için çok çalıştığını' söyleyerek semptomları geçiştirdi.
Yapay zekanın hazırladığı 25 günlük ilaç bırakma programının tamamlandığı gün, 31 yaşındaki kadın hayatını kaybetti. Yapılan otopsi ve incelemelerde, genç kadının şiddetli bir epilepsi krizi geçirerek yaşamını yitirdiği kesinleşti. OpenAI cephesi ise olayın yargıya taşınmasının ardından yaptığı açıklamada, trajedinin yaşandığı sırada kadının GPT-4o'nun daha eski bir sürümünü kullandığını belirtti. Bu dava, yapay zeka araçlarının sağlık konularındaki sınırlarını ve denetimsizliğini bir kez daha tartışmaya açtı.
