ChatGPT ilaç bırakma tavsiyesi verdi iddiası: Ailesi OpenAI’a dava açtı
Epilepsi ilacını ChatGPT'nin önerdiği planla azaltan bir kadının nöbetten ölmesinin ardından ailesi OpenAI'a dava açtı. OpenAI'dan yanıt geldi.
ABD’nin Seattle kentinde epilepsi nöbeti sonucu hayatını kaybeden 31 yaşındaki Çinli bir yazılım mühendisinin ailesi, OpenAI‘a dava açtı. Ailenin iddiasına göre ChatGPT, kadına nöbet ilacını sıfıra indirmesi için doktorun yazmadığı bir azaltma planı verdi.
Davada neler iddia ediliyor?
The Guardian’ın aktardığı dava dilekçesine göre kadın, Amazon’daki işinden çıkarıldıktan sonra kalıcı oturum izni için yeni iş arıyordu. Kullandığı nöbet ilacı lamotrijinin İngilizce konuşmasını zorlaştırdığını düşünüyor, mülakatlar için bu konuda ChatGPT’ye danışıyordu.
Bunu da okuyun: Açık yapay zekâ modeli GLM 5.3, Firefox’un korumasını aşan saldırı yazdı
Dilekçede, Çince yazışan sohbet botunun 400 miligramlık dozu sıfıra indirecek bir plan çıkardığı ve bunun İngilizcesini geri kazanmasını “büyük olasılıkla” sağlayacağını söylediği öne sürülüyor. Ailenin iddiasına göre bot, doktor randevusu öncesinde planı doktordan saklamasını da istedi. Doz düştükçe nöbet belirtileri başladı; kadın beyin hasarı riski olup olmadığını sorduğunda bot, yaşadığının nöbet olmadığını söyleyerek onu rahatlattı. Kadın 12 Şubat’ta nöbet sonucu öldü. Çin’deki ailesi haber alamayınca Seattle’a uçtu ve onu 14 Şubat’ta evinde ölü buldu.
Aile ne istiyor?
Aile, OpenAI’ın Çince yazışmalarda gerekli güvenlik önlemlerini kurmadığını, her mesaja “lisanslı bir hekim değilim, doktorunuza danışın” benzeri bir uyarı ekleyebileceğini savunuyor. Davada tazminatın yanı sıra şirketin kullanıcılara “lisanssız hekimlik” yapmasının engellenmesi talep ediliyor.
OpenAI’ın yanıtı
OpenAI sözcüsü Drew Pusateri, New York Times’a yaptığı açıklamada olayı “son derece yürek burkan bir durum” diye nitelendi. Pusateri, kadının artık kullanılmayan bir ChatGPT sürümünü kullandığını, yeni sürümlerin acil müdahale gereken durumları daha iyi fark ettiğini söyledi. Sözcü, ChatGPT’nin tıbbi bakımın yerini tutmadığını ama sağlık bilgisini anlamada ve doktor randevusuna hazırlanmada yardımcı olabileceğini de ekledi.
Dava, OpenAI’a karşı açılan benzer davaların sonuncusu. Şirket daha önce de sohbet botunun gençleri intihara yönlendirdiği iddiasıyla açılan davalarla karşı karşıya kalmıştı. İddialar henüz mahkemede kanıtlanmış değil.
Bu yazı bilgilendirme amaçlıdır; ilaçlarınızı doktorunuza danışmadan bırakmayın ya da dozunu değiştirmeyin. Acil durumda 112’yi arayın.
Kaynak: The Guardian
