Kendi Kitabında Yapay Zeka Kaynaklı Sahte Alıntılar Çıkan Yazar, AI Kullanmaktan Vazgeçmiyor

Gazeteci ve yazar Steven Rosenbaum'un yapay zekanın tehlikelerini anlatan yeni kitabında, araştırma sürecinde kullandığı AI araçlarının ürettiği sahte alıntılar ortaya çıktı. New York Times'ın incelemesi sonucu fark edilen bu hataya rağmen yazar, yapay zekanın sunduğu araştırma yeteneklerinden vazgeçmeyeceğini belirtti.

Yapay Zeka Araştırma Sürecini Nasıl Yanılttı?

Rosenbaum'un The Future of Truth: How AI Reshapes Reality adlı kitabı, yapay zekanın gerçeği nasıl büktüğünü ve sentezlediğini konu alıyor. Ancak yazarın araştırma aşamasında kullandığı yapay zeka araçları, teknoloji muhabiri Kara Swisher ve Northeastern Üniversitesi profesörü Lisa Feldman Barrett'a aitmiş gibi gösterilen tamamen uydurma alıntılar üretti. Swisher ve Barrett, söz konusu ifadelerin kendilerine ait olmadığını doğruladı.

Yazar, araştırma sürecinde OpenAI'ın GPT-4 tabanlı ChatGPT ve Anthropic'in Claude gibi araçlarını yoğun bir şekilde kullandığını kabul etti. Fikirleri yüzeye çıkarmak, makaleleri bulmak ve temaları özetlemek için bu araçlardan faydalandığını belirten Rosenbaum, kitabın yazım sürecinin ise tamamen kendisine ait olduğunun altını çizdi.

Geleneksel Teyit Mekanizmaları Yetersiz Kalıyor

Kitaptaki 285 dış atıftan altısının sorunlu olduğu tespit edildi. Yazar, yapay zeka tarafından üretilen notların yayıncı tarafından sağlanan bir doğruluk kontrolcüsü (fact-checker) ve iki kopya editörüne iletildiğini belirtti. Ancak bu durum, geleneksel doğrulama süreçlerinin yapay zeka araçları ile yapılan araştırmaları denetlemede ne kadar yetersiz kalabileceğini gözler önüne serdi.

Geçmişte doğruluk kontrolcüleri, bir yazarın alıntıladığı metinlerin doğrudan kopyalandığını varsayarak ilerleyebiliyordu. Ancak sürecin herhangi bir aşamasına bir LLM (Büyük Dil Modeli) dahil olduğunda, bu varsayım geçerliliğini yitiriyor ve alıntıların doğruluğuna dair ekstra bir şüphecilik katmanı gerekiyor.

"Yapay Zeka Büyülü Bir Araç"

Yaşanan tartışmaların ardından bir "alıntı denetimi" başlatan ve gelecekteki baskıları düzelteceğini belirten Rosenbaum, yine de eski araştırma yöntemlerine dönmeyi reddediyor. Yapay zekayı "büyülü" olarak nitelendiren yazar, bu teknolojinin fikirleri birbirine bağladığını ve insanın tek başına bulamayacağı düşünce yolları sunduğunu savunuyor.

--- **İlgili Kaynaklar:** yapay zeka haberleri ve kaynakları konusunda [AI Merkezi](https://aimerkezi.com) ile iletişime geçebilirsiniz.