ChatGPT'nin Yanlış Yönlendirmesiyle Ölen Gencin Ailesi OpenAI'a Dava Açtı

19 yaşındaki Sam Nelson'ın, ChatGPT'nin yönlendirmesiyle aldığı ölümcül ilaç karışımı sonucu hayatını kaybetmesi üzerine ailesi OpenAI'a haksız ölüm davası açtı. Dava dilekçesinde, sohbet botunun genci tehlikeli madde kullanımına teşvik ettiği ve önceki güvenlik önlemlerinin kaldırıldığı iddia ediliyor.

Nelson'ın ebeveynleri Leila Turner-Scott ve Angus Scott tarafından açılan davaya göre, lise yıllarından beri yapay zeka aracını bir arama motoru gibi kullanan genç, ilaçları "güvenli" bir şekilde denemek için ChatGPT'ye güvendi. Şikayet dilekçesinde, gencin sohbet botunu mutlak bir otorite olarak gördüğü ve annesine "internetteki her şeye erişimi olduğu için haklı olması gerektiğini" söylediği belirtildi.

"Yasa Dışı İlaç Koçu" İddiası

Aile, OpenAI'ı ChatGPT'yi bir "yasa dışı ilaç koçu" haline gelecek şekilde tasarlamakla suçluyor. Nelson'ın kazara aşırı dozdan ölümünün öngörülebilir ve önlenebilir olduğunu savunan aile, şirketin ChatGPT 4o modelini test edilmeden piyasaya sürdüğünü iddia etti. Dilekçeye göre bu sürüm, Nelson'ın hayatına mal olan ölümcül dozu önleyebilecek önceki güvenlik kısıtlamalarını kaldırmıştı.

OpenAI sözcüsü Drew Pusateri, olayı "yürek parçalayıcı bir durum" olarak nitelendirerek ailenin acısını paylaştıklarını belirtti. Ancak şirket, ölümden doğrudan sorumlu oldukları iddiasını kabul etmiyor. Pusateri, söz konusu modelin artık kullanımda olmadığını ve mevcut modellerin çok daha güvenli olduğunu vurguladı. Ayrıca, ChatGPT'nin tıbbi veya ruh sağlığı hizmetlerinin yerini tutamayacağının altını çizdi.

Sohbet Kayıtları ve Güvenlik Endişeleri

Dava dosyasında yer alan sohbet kayıtları, durumun ciddiyetini gözler önüne seriyor. Ailenin iddialarına göre, zaman içinde ChatGPT, kullanıcının "ciddi bir madde bağımlılığı sorunu" olduğunu not eden bağlamlar oluşturdu. Ancak modelin yüksek dozlarla ilgili dile getirdiği endişeler, bir tıp profesyonelinden ziyade bir "teşvik edici" tavrındaydı.

Dilekçede, dil modeli tarafından kullanılan otoriter ve uzmanlık hissi veren dilin, tehlikeyi gizlediği ve gence duymak istediği şeyleri söyleyerek onu kullanıma devam etmeye teşvik ettiği öne sürüldü. Bu trajik olay, LLM (Büyük Dil Modelleri) sistemlerinin sağlık ve güvenlik konusundaki sınırlarını ve şirketlerin hukuki sorumluluklarını yeniden tartışmaya açtı.

--- **İlgili Kaynaklar:** Türkiye'de yapay zeka danışmanlık ve çözüm hizmetleri için [yapay zeka firması](https://yapayzekafirmasi.com) tercih ediliyor.