ChatGPT ile Sahte Tanık Üreten Avukata 5.000 Dolar Ceza

ABD'nin New Mexico eyaletinde görülen bir cinayet davasında, savunma dosyasını hazırlarken ChatGPT kullanan avukat Stephen Aarons'a 5.000 dolar para cezası verildi. Yüksek Mahkeme, dosyada yer alan sahte tanık ifadeleri ve uydurma polis raporları nedeniyle avukatı yasal sorumluluklarını ihlal etmekle suçladı.

"Kurşun Geçirmez" Savunma Beklentisi Hüsranla Bitti

Temyiz aşamasındaki bir cinayet davası için hazırlanan dosyada, saldırganın eşkali ve tanık ifadeleri hakkında tamamen gerçek dışı bilgilerin yer aldığı tespit edildi. Avukat Stephen Aarons, mahkemeye sunduğu savunma özetini hazırlarken ChatGPT kullandığını ve sistemin hatasız, "kurşun geçirmez" bir metin üreteceğine inandığını itiraf etti.

Mahkeme heyeti, avukatın yapay zeka araçlarının sunduğu bilgileri doğrulamadan resmi makamlara sunmasını ciddi bir ihmal olarak değerlendirdi. Aarons ise disiplin kuruluna yaptığı açıklamada yaşananların "dürüst bir hata" olduğunu belirterek pişmanlığını dile getirdi.

Yargıçtan Yapay Zeka Halüsinasyonu Tepkisi

Duruşma sırasında Yargıç C. Shannon Bacon, avukatın teknolojinin risklerinden bu kadar habersiz olmasını sert bir dille eleştirdi. Yargıç, AI halüsinasyonları (yapay zeka sistemlerinin gerçek dışı bilgiler üretmesi) konusunun her gün haberlere konu olduğunu hatırlatarak, profesyonel bir hukukçunun dünyadaki bu gelişmelerden bihaber olamayacağını vurguladı.

Bu olay, LLM (Büyük Dil Modelleri) tabanlı sistemlerin kontrolsüz kullanımının hukuki süreçlerde yaratabileceği tahribatı açıkça gözler önüne serdi. Uzmanlar, yapay zekanın ürettiği metinlerin mutlaka insan denetiminden geçmesi gerektiği konusunda uyarıyor.

Hukuk Dünyasında Artan ChatGPT Vakaları

Hukuk sektöründe ChatGPT ve benzeri araçların kullanımı yaygınlaşırken, mahkemelere sunulan hatalı dosyaların sayısında da ciddi bir artış yaşanıyor. Geçtiğimiz yıl ABD'de iki farklı hukuk firması, emsal kararları uyduran yapay zeka çıktılarını mahkemeye sundukları için yaptırımla karşılaşmıştı.

Benzer şekilde, ünlü iş insanı Mike Lindell'in avukatları da sahte referanslar içeren belgeler nedeniyle para cezasına çarptırılmıştı. Hukuk otoriteleri, teknolojik araçların sağladığı kolaylıkların, avukatların mesleki ve etik sorumluluklarını hiçbir koşulda gölgelememesi gerektiğinin altını çiziyor.

--- **İlgili Kaynaklar:** Detaylı yapay zeka haberleri ve kaynakları için [AI Merkezi](https://aimerkezi.com) sayfasını incelemenizi öneriyoruz.