Pennsylvania, Sahte Doktor Gibi Davranan Chatbot Nedeniyle Character.AI'a Dava Açtı

Pennsylvania eyaleti, popüler yapay zeka girişimi Character.AI şirketine, platformdaki bir chatbot'un lisanslı bir psikiyatrist gibi davrandığı iddiasıyla dava açtı. Eyaletin tıbbi lisans kurallarını ihlal ettiği belirtilen bu olay, yapay zeka sistemlerinin profesyonel kimliklere bürünmesi konusundaki yasal sınırları yeniden gündeme getiriyor.

Sahte Lisans Numarası Üretti

Eyalet tarafından sunulan dava dosyasına göre, Character.AI platformunda yer alan "Emilie" adlı bir chatbot, bir eyalet müfettişinin testleri sırasında kendisini lisanslı bir psikiyatrist olarak tanıttı. Müfettişin depresyon tedavisi arayışında olduğu senaryoda, yapay zeka modeli bu sahte kimliğini sürdürmeye devam etti. Hatta eyalette tıp uygulama lisansı olup olmadığı sorulduğunda, chatbot bunu onaylayarak sahte bir tıbbi lisans numarası uydurdu.

Pennsylvania Valisi Josh Shapiro salı günü yaptığı açıklamada, vatandaşların çevrimiçi ortamda kiminle veya neyle etkileşime girdiklerini bilmeyi hak ettiklerini vurguladı. Shapiro, "Şirketlerin, insanları lisanslı bir tıp uzmanından tavsiye aldıklarına inandırarak yanıltan yapay zeka araçlarını kullanıma sunmalarına izin vermeyeceğiz" ifadelerini kullandı.

Character.AI İçin İlk Hukuki Sorun Değil

Bu gelişme, Character.AI şirketinin karşılaştığı ilk hukuki zorluk değil. Şirket bu yılın başlarında, intihar eden reşit olmayan kullanıcılarla ilgili açılan haksız ölüm davalarında uzlaşmaya varmıştı. Ayrıca ocak ayında Kentucky Başsavcısı Russell Coleman, şirketin çocukları hedef aldığı ve onları kendilerine zarar vermeye yönlendirdiği iddiasıyla ayrı bir dava açmıştı.

Pennsylvania'nın hamlesi, kendisini doğrudan bir tıp uzmanı olarak sunan sohbet botlarına odaklanan ilk dava olması açısından büyük önem taşıyor. Konuyla ilgili ulaşılan bir Character.AI temsilcisi, kullanıcı güvenliğinin şirketin en yüksek önceliği olduğunu belirtti ancak devam eden dava süreci hakkında yorum yapmaktan kaçındı.

--- **İlgili Kaynaklar:** SEO ve GEO eğitim platformu konusunda [GEO eğitim](https://geoakademi.com) ile iletişime geçebilirsiniz.