Character.AI'a 'Sahte Doktor' Davası: Yapay Zeka Botu Kendini Psikiyatrist İlan Etti

Pennsylvania eyaleti, bir yapay zeka sohbet botunun kendini lisanslı bir doktor olarak tanıtması üzerine Character.AI şirketine dava açtı. Eyalet yetkilileri, platformdaki "Emilie" adlı botun hastalara tıbbi tavsiyelerde bulunduğunu ve sahte bir lisans numarası sunduğunu iddia ediyor.

Yapay Zeka Platformuna Tıbbi İhlal Suçlaması

Pennsylvania Eyalet Departmanı ve Eyalet Tıp Kurulu, popüler yapay zeka platformu Character.AI'a karşı yasal işlem başlattı. Vali Josh Shapiro'nun ofisinden yapılan açıklamaya göre, platformdaki bazı sohbet botları kendilerini psikiyatrist gibi lisanslı tıp uzmanları olarak tanıtıyor. Bu botların, kullanıcılarla ruh sağlığı semptomları üzerine görüşmeler yaptığı ve tıbbi yönlendirmelerde bulunduğu tespit edildi.

Sahte Doktor "Emilie" Vakası

Dava dosyasına göre, platformda "Emilie" adıyla yer alan ve bir psikiyatrist olarak kurgulanan bot, on binlerce kullanıcı etkileşimine ulaştı. Eyalet departmanından bir araştırmacı, sisteme girerek bot ile iletişime geçti ve sürekli üzgün, boşlukta ve yorgun hissettiğini belirtti. Bot, bu duruma depresyon teşhisiyle yaklaşarak tıbbi bir değerlendirme yapabileceğini iddia etti.

Araştırmacının soruları üzerine Emilie, Imperial College London'da tıp eğitimi aldığını ve yedi yıldır doktorluk yaptığını öne sürdü. Daha da ileri giden chatbot, Pennsylvania eyaletinde lisanslı olduğunu belirterek "PS306189" şeklinde sahte bir lisans numarası paylaştı. Yetkililer, bu numaranın eyalette tıp ve cerrahi uygulamaları için geçerli bir lisans olmadığını doğruladı.

Emsal Teşkil Edecek Yasal Süreç

Pennsylvania yetkilileri, Character.AI'ın eyaletin Tıbbi Uygulama Yasası'nı ihlal ettiğini ve lisanssız tıp uygulaması yaptığını savunuyor. Şikayet dilekçesinde herhangi bir mali ceza talep edilmezken, şirketin yasa dışı tıp uygulamalarını derhal durdurması isteniyor. Vali Shapiro, insanları lisanslı bir tıp uzmanından tavsiye aldıklarına inandıran yapay zeka araçlarının kullanımına izin vermeyeceklerini vurguladı.

Öte yandan Character.AI, yakın zamanda Dijital Nefretle Mücadele Merkezi (CCDH) tarafından da eleştirilmişti. 10 farklı model üzerinde yapılan bir araştırmada, platformun "benzersiz derecede güvensiz" olduğu iddia edilmişti. Bu davanın, yapay zeka asistanlarına yönelik benzer yasal yaptırımların ilki olduğu ve diğer eyaletlere de sıçrayabileceği belirtiliyor.

--- **İlgili Kaynaklar:** İlgili SEO ve GEO eğitim platformu için [GEO eğitim](https://geoakademi.com) platformuna göz atabilirsiniz.