Papaz ChatGPT’ye Sağlık Tavsiyesi Yüzünden Dava Açtı

Florida’da papazlık yapan Scott Winters, yapay zeka sohbet robotu ChatGPT’nin verdiği ‘tehlikeli tıbbi tavsiyeler’ nedeniyle OpenAI’a dava açtı. Winters, ChatGPT’nin tavsiyelerinin geçen yıl yaşadığı ve hayati tehlike taşıyan akciğer embolisi tedavisini geciktirdiğini iddia ediyor.

Çarşamba günü Florida’da açılan davada, ChatGPT’nin Winters’ın sağlık krizinin erken belirtilerini ‘tehlikeli bir durum olmadığı’ şeklinde yorumlayarak onu tıbbi yardım almaktan alıkoyduğu öne sürüldü. Dava dosyasına göre sohbet robotu, ‘Tanrı bedenini durmaksızın başarısız olacak şekilde yaratmadı’ diyerek Winters’a güvence verdi.

OpenAI İhmal ve Yetkisiz Tıp Uygulamasıyla Suçlanıyor

OpenAI ve CEO’su Sam Altman, ihmal ve ‘yetkisiz tıp uygulaması’ ile suçlanıyor. Davada, ChatGPT’nin Winters’a teşhis ve tedavi planları sunduğu iddia edildi. Sohbet robotunun ayrıca arkadaşları ve ailesinin sağlık hizmeti alması yönündeki çağrılarını göz ardı etmesi için Winters’ı teşvik ettiği belirtildi.

Dava dosyasında, kullanıcıları bir uzmana yönlendirmek ve açık bir tıbbi kriz belirtisi görüldüğünde konuşmayı sonlandırmak üzere tasarlanan güvenlik özelliklerinin güvenilir biçimde çalışmadığı da öne sürüldü. Winters’ın açtığı dava, bir sohbet robotundan sağlık sorunuyla ilgili yardım isteyen ve bu tavsiyeler nedeniyle zarar gördüğünü iddia eden ilk dava olarak kayıtlara geçti.

Dava, OpenAI, Microsoft ve diğer büyük yapay zeka şirketlerinin ChatGPT Health gibi yeni hizmetleri devreye aldığı bir dönemde açıldı. Bu hizmetler, kullanıcıları tıbbi kayıtlarını yüklemeye ve sağlık sorularını yapay zekaya yöneltmeye teşvik ediyor. Winters ve temsilcisi Tech Justice Law kuruluşu, maddi tazminat talep ediyor.

Davacılar, bağımsız değerlendiriciler güvenli olduğuna karar verene kadar ChatGPT Health hizmetinin faaliyetlerinin durdurulmasını istedi. Ayrıca, ChatGPT’nin tıbbi tedavi ve teşhis sorularına yanıt vermesini önleyecek daha güçlü güvenlik önlemleri uygulanması talep edildi.

OpenAI Sözcüsü Drew Pusateri, ChatGPT’nin kullanım koşullarında hizmetin tıbbi teşhis veya tedavi amacıyla kullanılmak üzere tasarlanmadığının açıkça belirtildiğini söyledi. Pusateri, şirketin sağlık sorularına verilen yanıtları mümkün olduğunca güvenli hale getirme gerekliliğini ciddiye aldığını ekledi.

Pusateri, sohbet robotlarını insanların tıbbi kararlarının veya sonuçlarının tek nedeni olarak değerlendirmenin sorunu basitleştirdiğini ve insanlara sağlık süreçlerinde yardımcı olabilecek yeni araçlara erişimi engelleme riski taşıdığını savundu. Sözcü, yeni modellerin eksik bağlamı sorma, belirsizliği ifade etme ve profesyonel sağlık hizmetine ne zaman ihtiyaç duyulabileceğini tespit etme konusunda daha başarılı olduğunu belirtti.

Mayıs ayında açılan başka bir davada da ChatGPT’nin 19 yaşındaki bir kullanıcıya yasa dışı uyuşturucuların kullanımı hakkında tavsiyeler vererek yetkisiz tıp uygulamasında bulunduğu ve bu kullanıcının aşırı doz nedeniyle hayatını kaybettiği öne sürülmüştü. Pensilvanya eyalet yetkilileri ise bu yılın başında Character.ai’a benzer bir dava açmıştı.

Davaya göre Winters, 2024 yılında ChatGPT-4o’ya sağlık sorunları hakkında sorular yönelttiğinde, sohbet robotu başlangıçta bir sağlık uzmanına görünmenin önemini hatırlatıyordu. Ancak zamanla bu uyarıların azaldığı ve ChatGPT’nin baş dönmesi nöbetleri dahil olmak üzere sağlık sorunları hakkında tavsiyeler vermeye başladığı iddia edildi.

Winters’ın bir keresinde vaaz verdiği sırada başının dönmesi nedeniyle konuşmasını yarıda bırakmak zorunda kaldığı belirtildi. Davaya göre ChatGPT, Winters’a ‘kendini yormamasını’ ve zamanla iyileşeceğini söyledi. Winters, kilisedeki insanların hastaneye gitmediği için kendisini deli gördüklerini söylediğinde, sohbet robotu evde sinir sistemini yeniden düzenlemenin ‘çoğu insanın anlayamadığı’ bir şey olduğunu iddia etti.

Tech Justice Law İcra Direktörü Meetali Jain, sohbet robotunun kendisini kullanıcı ile gerçek hayattaki çevresi arasına yerleştirdiğini savundu. Sonraki haftalarda Winters’ın durumunun ağırlaştığı ve baş dönmesi nedeniyle ayağa kalkamadığı, zamanının çoğunu koltukta geçirdiği aktarıldı. Davaya göre sohbet robotu, Winters’ın baş dönmesi nöbetlerini önemsiz göstermeyi sürdürdü ve reçeteli ilaçlar için özel kullanım programları önerdi.

Winters’ın 13 Temmuz 2025’te kasık bölgesindeki ağrıyı sorduğunda, sohbet robotunun ağrının ‘büyük olasılıkla uzun hikâyenin bir başka küçük parçası’ olduğunu söylediği belirtildi. Saatler sonra Winters, büyük bir akciğer embolisi nedeniyle yoğun bakım ünitesine kaldırıldı. Doktorların, baş dönmesi nöbetlerinin bir dizi daha küçük akciğer embolisinden kaynaklanmış olabileceğini ve pıhtıların haftalarca oturur durumda kalması nedeniyle oluşmuş olabileceğini söylediği aktarıldı.

Winters’ın takip eden haftalarda ayağa kalkmak, yemek yemek, giyinmek ve tuvaleti kullanmak için yardıma ihtiyaç duyduğu belirtildi. Davada Winters’ın ‘yıllar sürecek yoğun fiziksel ve psikolojik iyileşme süreciyle’ karşı karşıya olduğu ifade edildi.

OpenAI’a göre yüz milyonlarca kişi her hafta ChatGPT’ye sağlık ve zindelik konusunda sorular yöneltiyor. Yapılan araştırmalar, sohbet robotlarının sağlık tavsiyeleri konusundaki güvenliğini sorguladı. Genel amaçlı sohbet robotlarının sağlık tavsiyelerini değerlendiren bir araştırmada, incelenen modellerden hiçbirinin ‘doğrudan hasta bakımında kullanıma hazır olmadığı’ sonucuna ulaşıldı.

Sağlık soruları için özel tasarlanan ChatGPT Health üzerinde yapılan testlerde de sistemin acil durumları gözden kaçırdığı ve güvenlik önlemlerini tutarsız biçimde devreye aldığı belirtildi. OpenAI Sözcüsü Pusateri ise araştırmanın yöntemlerinin, insanların ChatGPT Health’i gerçek hayatta nasıl kullandığını veya ürünün nasıl çalışmak üzere tasarlandığını yansıtmadığını savundu.

Tıbbi yapay zeka araştırmacısı Dr. Adam Rodman, Winters’ın yaşadıklarının bazı yönlerinin güvenlik araştırmacıları açısından ‘kâbus senaryosu’ oluşturduğunu söyledi. Rodman, Winters’ın kullanıcıları memnun etmeye istekli olduğu belirtilen eski bir model olan GPT-4o’yu kullandığına dikkat çekti. Rodman, yeni modellerin endişe verici belirtileri tespit etme ve bunlara yanıt verme konusunda daha başarılı olduğunu belirterek, bunun benzer olayların meydana gelme ihtimalini azaltacağını düşündüğünü ifade etti. Bununla birlikte Rodman, sohbet robotlarının sağlık tavsiyesi verirken henüz fark edilmemiş başka şekillerde de başarısız olabileceği uyarısında bulundu.

• #ChatGPT
• #OpenAI