Halüsinasyon (hallucination): yapay zekâ neden kendinden emin biçimde yanılır

Yapay zekâya bir yönetmelik maddesini soran Hülya, ayrıntılı, düzgün ve çok kendinden emin bir cevap aldı. Cevapta bir madde numarası bile vardı. Kamu kurumunda uzman olan Hülya resmî metni açıp baktığında numaranın yanlış olduğunu gördü. Bu duruma halüsinasyon deniyor.

Yaşadığı şeyin adı halüsinasyon (hallucination). Bu derste halüsinasyonun ne olduğunu, neden ortaya çıktığını ve riski nasıl azaltacağınızı öğreneceksiniz.

Aklınıza bir soru mu takıldı?

Sorunuzu ya da aradığınız konuyu yazın Ders bul

Bu derste neler öğreneceksiniz?

• Halüsinasyonun ne olduğunu.
• Modellerin neden bilmediğinde tahmin yürütmeye eğilimli olduğunu.
• Riski azaltan üç alışkanlığı.

Halüsinasyon nedir?

OpenAI’ın araştırma yazısı halüsinasyonu, dil modellerinin ürettiği makul görünen ama yanlış ifadeler olarak tanımlıyor. OpenAI’ın yardım sayfası da yapay zekânın ikna edici ama yanlış bilgi verebildiğini, uydurma alıntı ve kaynak üretebildiğini söylüyor ve tek kaynak olarak kullanılmamasını öneriyor.

Neden ortaya çıkar?

OpenAI’ın araştırmacıları iki neden gösteriyor. Birincisi, modeller eğitimde büyük metinlerdeki sıradaki kelimeyi tahmin etmeyi öğrenir ve bu örneklerde doğru ya da yanlış etiketi yoktur. Yazım gibi düzenli kalıplardaki hatalar model büyüdükçe kaybolur; ama nadir geçen, rastgele bilgiler kalıplardan tahmin edilemez. Bir kişinin doğum günü buna örnek veriliyor.

İkincisi, değerlendirme yöntemleri. Araştırmaya göre yaygın testler yalnızca doğruluğa bakıyor; bilmiyorum demek sıfır puan alırken şans eseri doğru tahmin puan getiriyor. Bu, soruyu boş bırakmanın puan getirmediği çoktan seçmeli bir sınava benziyor. Model de iyi bir sınav öğrencisi gibi tahmin etmeyi öğreniyor. Araştırmacılar, kendinden emin hataların belirsizliği ifade etmekten daha fazla cezalandırılmasını öneriyor.

Riski nasıl azaltırsınız?

Anthropic’in belgeleri üç temel yol öneriyor: modele bilmiyorum deme izni vermek, uzun belgelerde önce birebir alıntı çıkarmasını istemek ve her iddia için destekleyici alıntı istemek. Belge aynı zamanda bu yöntemlerin halüsinasyonu azalttığını ama ortadan kaldırmadığını, önemli bilgilerin ayrıca doğrulanması gerektiğini vurguluyor.

Videoyla izleyin

İzlerken şuna dikkat edin: Halüsinasyonun nedenleri ve azaltma yöntemleri anlatılırken, derste öğrendiğiniz bilmiyorum deme izni ile alıntı isteme alışkanlıklarını eşleştirin.

Video: IBM Technology (İngilizce). Türkçe altyazı için YouTube’da altyazı ayarını açabilirsiniz.

Adım adım uygulama

1. Resmî bir kurumun yayımladığı kısa bir metin seçin.
2. Metni yapıştırıp örnek isteği kullanarak üç soru sorun.
3. Her cevaptaki alıntıların metinde gerçekten bulunup bulunmadığına bakın.
4. Metinde olmayan bir şey sorun ve modelin bilmiyorum deyip demediğini gözleyin.
5. Sonuçları iki cümleyle not edin.

Kendinizi deneyin

Kaynaklar

• OpenAI, Why language models hallucinate (5 Eylül 2025) (İngilizce)
• Kalai, Nachum, Vempala ve Zhang, Why Language Models Hallucinate (arXiv:2509.04664) (İngilizce)
• OpenAI Yardım, Does ChatGPT tell the truth? (İngilizce)
• Claude Belgeleri, Reduce hallucinations (İngilizce)
• Google for Developers, Introduction to Large Language Models (İngilizce)
• IBM Technology: Why Large Language Models Hallucinate (video, İngilizce)

Son kontrol: 11 Kasım 2026

Kaynak: yzdersleri.com/ders/halusinasyon-yapay-zeka-neden-kendinden-emin-bicimde-yanilir/ · Yapay Zeka Dersleri