Yapay Zekâ Halüsinasyonları: Sohbet Robotları Neden Uyduruyor ve Doğru Yanıtlar Nasıl Alınır?

Yapay zekâ halüsinasyonları nedir?

Yapay zekâ halüsinasyonu, bir sohbet robotunun veya başka bir üretken yapay zekâ sisteminin verdiği; yanlış, uydurma ya da tutarsız olduğu hâlde doğruymuş gibi sunulan yanıttır. ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) konfabulasyon terimini kullanıyor ve bunu üretken yapay zekâ sistemlerinin hatalı veya yanlış içerik üretip kendinden emin bir şekilde sunduğu bir olgu olarak tanımlıyor ^[1]. NIST, istemden sapan ya da sistemin kendi önceki ifadeleriyle çelişen çıktıları da buna dahil ediyor ve bunlara gündelik dilde 'halüsinasyon' veya 'uydurma' dendiğini belirtiyor ^[1].

Örnekler, 2023'te ABD'de görülen bir davadaki gibi sahte alıntılar içeren uydurma mahkeme davalarından ^[3], haber yanıtlarındaki uydurma ayrıntılara ve güncelliğini yitirmiş bilgilere kadar uzanıyor ^[5]. NIST, sistemlerin bir yanıtı haklı çıkarıyormuş gibi görünen uydurma mantık veya kaynaklar da üretebileceği ve bunun insanların çıktıya gereğinden fazla güvenmesine yol açabileceği konusunda uyarıyor ^[1].

Kısaca bunlardan nasıl kaçınılır?

1. Sohbet robotuna kaynak materyali verin ve yalnızca bu materyale dayanarak yanıt vermesini isteyin ^[7].
2. 'Bilmiyorum' demesine açıkça izin verin ^[7].
3. Her iddia için doğrudan alıntı ve kaynak isteyin, ardından kaynakları kendiniz açın ^[7].
4. Önemli olan her şeyi bağımsız ve yetkili bir kaynakla kontrol edin; çünkü hiçbir teknik sorunu tamamen ortadan kaldırmaz ^[7].

Yapay zekâ sohbet robotları neden uyduruyor?

Büyük dil modelleri (LLM'ler), olası sonraki kelimeleri tahmin ederek metin üretir. NIST, konfabulasyonların bu tasarımın doğal bir sonucu olduğunu açıklıyor: Modeller, eğitim verilerinin istatistiksel dağılımına yaklaşan çıktılar üretir; bu çıktılar doğru olabilir, ancak olgusal olarak yanlış veya kendi içinde tutarsız da olabilir ^[1]. NIST, sorunun özellikle açık uçlu, uzun yanıtlar ve uzmanlık bilgisi gerektiren sorular için önem taşıdığını söylüyor ^[1].

Modeller neden basitçe 'bilmiyorum' demiyor?

Üçü OpenAI'da, biri Georgia Tech'te görev yapan Adam Tauman Kalai ve meslektaşlarının 2025 tarihli makalesi, halüsinasyonların gizemli olmak zorunda olmadığını, ikili sınıflandırmadaki hatalardan kaynaklandığını savunuyor ^[2]. Yanlış ifadeler gerçeklerden ayırt edilemiyorsa, eğitim sırasındaki istatistiksel baskılar bunları doğal olarak üretir ^[2]. Yazarlar, halüsinasyonların kalıcı olmasının nedeninin, çoğu kıyaslama testinin yanıtları kendinden emin bir tahmini dürüst bir 'bilmiyorum'dan daha çok ödüllendirecek şekilde puanlaması olduğunu ekliyor; bu yüzden modeller, kendi ifadeleriyle, iyi sınav çözücüler olacak şekilde optimize ediliyor ^[2]. Önerdikleri çözüm, yaygın olarak kullanılan kıyaslama testlerinin puanlama biçimini değiştirmek ^[2].

Neden bu kadar emin konuşuyorlar?

Akıcı ve kendinden emin bir üslup, modellerin üretmeyi öğrendiği şeyin bir parçasıdır. NIST, risklerin kullanıcıların yanlış içeriğe inanmasıyla ortaya çıktığını ve bunun çoğu zaman yanıtın kendinden emin doğasından kaynaklandığını belirtiyor ^[1]. Dolayısıyla üsluptaki özgüven, doğruluğun kanıtı değildir.

Yapay zekâ sohbet robotları ne sıklıkla halüsinasyon görür?

Tek bir halüsinasyon oranı yoktur. Oran; modele, göreve, dile ve hataların nasıl sayıldığına bağlıdır. Bağımsız çalışmalar belirli görevler için ölçek hakkında fikir veriyor.

Haber soruları

Avrupa Yayın Birliği (EBU) tarafından koordine edilen ve BBC'nin öncülük ettiği bir çalışmaya, 18 ülkede 14 dilde çalışan 22 kamu yayıncılığı kuruluşu katıldı ^[5]. Gazeteciler ChatGPT, Copilot, Gemini ve Perplexity'den gelen 3.000'den fazla yanıtı değerlendirdi ^[5]. Yanıtların %45'inde en az bir önemli sorun, %31'inde ciddi kaynak sorunları ve %20'sinde uydurma ayrıntılar ve güncelliğini yitirmiş bilgiler dahil büyük doğruluk sorunları bulunduğunu tespit ettiler ^[5]. Gemini'nin yanıtlarının %76'sında önemli sorunlar vardı ^[5]. EBU, bu çarpıklıkların diller ve bölgeler arasında tutarlı olduğunu söylüyor; bu da yapay zekâyı İngilizce dışındaki dillerde kullanan okurlar için önem taşıyor ^[5].

Profesyonel hukuk araçları

Stanford'daki araştırmacılar LexisNexis ve Thomson Reuters'ın yapay zekâ destekli hukuki araştırma araçlarını test etti ve her birinin %17 ile %33 arasında halüsinasyon gördüğünü buldu ^[6]. Bu araçlar, yanıt vermeden önce belgeleri getiren bilgi erişimiyle güçlendirilmiş üretim (RAG) yöntemini kullanıyor; yazarlar, sağlayıcıların halüsinasyonları ortadan kaldırdıkları yönündeki iddialarının abartılı olduğu sonucuna vardı ^[6].

Bu rakamlar belirli tarihlerdeki belirli sistemleri tanımlıyor; daha yeni sürümler daha iyi ya da daha kötü sonuç verebilir. Rakamlar, belgelere dayanan uzmanlaşmış araçların bile hâlâ hata yaptığını gösteriyor ^[6].

İnsanlar yapay zekâ halüsinasyonlarına güvendiğinde ne olur?

ABD mahkemesinde sahte davalar

Mata v. Avianca davasında New York'taki bir federal yargıç, ChatGPT'nin oluşturduğu sahte alıntılar ve atıflar içeren, gerçekte var olmayan yargı kararlarını sundukları için 22 Haziran 2023'te iki avukata ve bürolarına yaptırım uyguladı ^[3]. Avukatlar daha sonra atıf yaptıkları kararlardan altısının ChatGPT tarafından üretildiğini ve gerçekte var olmadığını kabul etti ^[3]. Avukatlardan biri ChatGPT'ye bir davanın gerçek olup olmadığını sorduğunda, ChatGPT davanın 'gerçekten var olduğunu' ve Westlaw ile LexisNexis'te bulunabileceğini yanıtladı ^[3]. Yargıç P. Kevin Castel, güvenilir bir yapay zekâ aracı kullanmanın kendi başına uygunsuz bir yanı olmadığını, ancak mevcut kuralların avukatlara dilekçelerinin doğruluğunu güvence altına alacak bir denetim rolü verdiğini yazdı ve 5.000 $ para cezası verdi ^[3].

Sorun o zamandan beri büyüdü. Araştırmacı Damien Charlotin'in tuttuğu bir veritabanı, taraflardan birinin uydurma içeriğe dayandığının tespit edildiği mahkeme ve tribunal kararlarını listeliyor; veritabanı 2 Kasım 2026 tarihli güncellemesi itibarıyla 2.262 vaka tespit etmişti ^[4].

Bir sohbet robotunun müşteriye verdiği yanlış söz

Britanya Kolumbiyası Hukuki Uyuşmazlık Çözüm Kurulu (Civil Resolution Tribunal), 2024 tarihli bir kararda (Moffatt v. Air Canada, 2024 BCCRT 149), havayolunun web sitesindeki sohbet robotunun bir müşteriye yas indirimli bilete geriye dönük olarak başvurabileceğini yanlış bir şekilde ima etmesi üzerine Air Canada'yı ihmalkâr yanlış beyandan sorumlu tuttu; oysa web sitesinin başka bir sayfası bununla çelişiyordu ^[9]. Kurul, sohbet robotunun ayrı bir varlık olarak değerlendirilmesi gerektiği yönündeki argümanı reddetti ve bilginin statik bir sayfadan mı yoksa bir sohbet robotundan mı geldiğinin hiçbir fark yaratmadığını belirtti ^[9].

Yapay zekâ sohbet robotlarından nasıl daha doğru yanıtlar alabilirsiniz?

Anthropic'in Claude modelleri için hazırladığı geliştirici rehberi, çoğu sohbet robotu için geçerli olan teknikleri sıralıyor ^[7]:

1. Belirsizliğe izin verin. Modele bilmediğini veya yeterli bilgiye sahip olmadığını söyleyebileceğini belirtin; Anthropic bunun yanlış bilgiyi büyük ölçüde azaltabileceğini söylüyor ^[7].
2. Yanıtları alıntılara dayandırın. Uzun belgelerde modelden önce kelimesi kelimesine alıntılar çıkarmasını, ardından yanıtını yalnızca bunlara dayandırmasını isteyin ^[7].
3. Kaynak ve geri çekme şartı koyun. Her iddia için destekleyici bir alıntı veya kaynak isteyin ve modele destekleyemediği her iddiayı çıkarmasını söyleyin ^[7].
4. Bilgisini sınırlandırın. Genel bilgisini değil, yalnızca sağladığınız belgeleri kullanmasını söyleyin ^[7].
5. Birkaç yanıtı karşılaştırın. Aynı soruyu birden fazla kez sorun; çıktılar arasındaki tutarsızlıklar bir halüsinasyona işaret edebilir ^[7].
6. Takip kontrolleri yapın. Yanıtı modele geri verin ve belirli ifadeleri doğrulamasını veya ayrıntılandırmasını isteyin ^[7].

Kendiniz yapmanız gereken kontroller

• Her kaynağı açın. Kaynağın var olduğunu ve yanıtta iddia edilen şeyi söylediğini doğrulayın; EBU çalışmasındaki yanıtların %31'inde ciddi kaynak sorunları vardı ^[5].
• Sohbet robotundan kendisine kefil olmasını istemeyin. Mata v. Avianca davasındaki avukatlar tam olarak bunu yaptı ve sahte bir davanın gerçek olduğu söylendi ^[3].
• Yüksek riskli bilgiler için birincil kaynakları kullanın; örneğin resmî hukuk veritabanları, düzenleyici kurumlar veya sağlık profesyonelleri. NIST, sağlık hizmetlerini uydurma özetlerin yanlış teşhis veya tedaviye yol açabileceği bir alan olarak işaret ediyor ^[1].
• Tarihi kontrol edin. Güncelliğini yitirmiş bilgiler, EBU'nun tespit ettiği büyük doğruluk sorunları arasındaydı ^[5].

Anthropic'in kendi rehberi, bu tekniklerin halüsinasyonları önemli ölçüde azalttığını ancak ortadan kaldırmadığını vurguluyor ve kritik bilgilerin doğrulanmasını öneriyor ^[7].

Teknoloji halüsinasyonları otomatik olarak tespit edebilir mi?

Araştırmacılar otomatik uyarı işaretleri geliştiriyor. Oxford Üniversitesi'nden Sebastian Farquhar, Jannik Kossen, Lorenz Kuhn ve Yarin Gal tarafından 2024'te Nature dergisinde yayımlanan yaklaşımlardan birine anlamsal entropi (semantic entropy) adı veriliyor ^[8]. Bu yöntem aynı soruya genellikle beş civarında birkaç yanıt örnekliyor, bunları anlamlarına göre gruplandırıyor ve bu anlamların ne kadar dağınık olduğunu ölçüyor; yüksek dağınıklık, modelin muhtemelen yanlış yanıt vereceğine işaret ediyor ^[8].

Yöntemin sınırları var. Yazarları, modelin yanlış bir bilgi kümesi veya akıl yürütme tarzıyla eğitildiği durumları, eğitimin yeni bir bağlama aktarılamadığı durumları ya da kasıtlı aldatmayı yakalayamayacağını söylüyor ^[8]. Her seferinde aynı yanlış yanıtı kendinden emin bir şekilde tekrarlayan bir model tutarlı görünecektir. Aynı mantığa dayanan, soruyu iki kez sorma şeklindeki basit kullanıcı tekniğinin bir garanti değil, yalnızca bir ipucu olmasının nedeni budur ^[7][8].

Bir modelin belgelere bakmasını sağlayan bilgi erişimiyle güçlendirilmiş üretim yardımcı olur, ancak bir çare değildir: Stanford çalışması, RAG tabanlı hukuk araçlarında iki basamaklı halüsinasyon oranları buldu ^[6].

Hangi istem teknikleri en iyi sonucu verir?

Hiçbir teknik kusursuz değildir ve en iyi sonucu birlikte kullanıldıklarında verirler. Aşağıdaki tablo yaygın yaklaşımları, neyi hedeflediklerini ve nerede yetersiz kaldıklarını karşılaştırıyor. Yanıtları sağladığınız belgelere bağlayan teknikler, modellerin aksi hâlde istatistiksel örüntülere dayanması şeklindeki temel soruna yönelirken ^[1][7], tutarlılık kontrolleri yalnızca bazı hata türlerini yakalar ^[8].

Bilgi edinmek için yapay zekâ sohbet robotlarını kullanmanın faydaları ve sınırları nelerdir?

Faydalar

• NIST, istatistiksel tahminin yalnızca hatalar değil, olgusal olarak doğru ve tutarlı çıktılar da üretebileceğini belirtiyor ^[1].
• Kaynak belgeler verildiğinde modeller birebir alıntılar çıkarıp bunlara atıf yapabilir; bu da yanıtlarını denetlenebilir kılar ^[7].

Sınırlar

• Bazı görevlerde hatalar yaygındır: EBU çalışmasında haber yanıtlarının %45'inde önemli bir sorun vardı ^[5].
• Uzmanlaşmış hukuk araçları bile Stanford testlerinde %17 ile %33 arasında halüsinasyon gördü ^[6].
• Hatalara ikna edici ama yanlış açıklamalar ve kaynaklar eşlik edebilir ^[1].
• Sorumluluk kullanıcıda veya işletmede kalır: Mahkemeler avukatlara yaptırım uyguladı ^[3] ve bir kurul, bir şirketi sohbet robotunun ifadelerinden sorumlu tuttu ^[9].

Yapay zekâ halüsinasyonları bir gün çözülecek mi?

Halüsinasyonların ne ölçüde azaltılabileceği açık bir soru; ancak yukarıdaki açıklamaların bazıları üzerinde çalışılabilecek nedenlere işaret ediyor. Kalai ve meslektaşlarının savunduğu gibi kıyaslama testleri tahmin yürütmeyi ödüllendiriyorsa, puanlama biçimlerini değiştirmek modelleri belirsizliklerini ifade etmeye teşvik edebilir ^[2]. Anlamsal entropi gibi tespit yöntemleri olası bazı hataları işaretleyebilir ^[8]. Ancak NIST, konfabulasyonu üretken modellerin tasarlanma biçiminin doğal bir sonucu olarak tanımlıyor ^[1]; bu da belirli bir hata oranının kalacağını düşündürüyor.

Hâlâ belirsiz olanlar

• Güncel modellerin gerçek dünyadaki hata oranları. Yayımlanan çalışmalar belirli sürümleri ve görevleri test ediyor ve sonuçlar her yeni sürümle değişiyor ^[5][6].
• Mahkemelerin tekrarlanan vakalara nasıl yaklaşacağı. Charlotin'in veritabanı 2 Kasım 2026 itibarıyla bu türden 2.262 kararı kayda geçirmişti ve her yeni karar içtihada ekleniyor ^[4].
• Kıyaslama reformlarının yaygın olarak benimsenip benimsenmeyeceği; Kalai makalesi bunu sosyoteknik bir değişim olarak nitelendiriyor ^[2].

3 Kasım 2026 itibarıyla en güvenli çalışma varsayımı şu: Her sohbet robotu kendinden emin bir sesle yanılabilir ve kaynağı kontrol etmek kullanıcının işidir.