Yapay zekânın hata türleri ve her birinin kontrolü

Yapay zekâ yanıtındaki her hata aynı değildir; her hatanın kendine uygun bir kontrolü vardır. Bu derste hatayı beş türden birine ayıracak ve türe göre kontrol seçeceksiniz.

Aklınıza bir soru mu takıldı?

Sorunuzu ya da aradığınız konuyu yazın Ders bul

Bu derste neler öğreneceksiniz?

• Beş hata türünü ve her birinin kısa nedenini
• Bir yanıttaki hatayı doğru türe ayırmayı
• Her tür için uygun kontrol yöntemini seçmeyi
• Kendi işinizden bir “hata–kontrol tablosu” doldurmayı

Halüsinasyonun (hallucination) ve dalkavukluğun (sycophancy) ayrıntısı “Yapay zekâ neden uydurur?” ve “Yapay zekâ neden bana hep hak veriyor?” derslerinde var. Burada her türü kısaca tanıyıp ayırt etmeyi, ardından ayırdığınız türe uygun kontrolü seçmeyi öğreniyoruz. Böylece her hatada aynı yöntemi denemek yerine doğru aracı elinize alırsınız.

Beş hata türü ve nedenleri

1. Uydurma. OpenAI’ın araştırma yazısı halüsinasyonu, modelin ürettiği akla yatkın ama yanlış ifadeler diye tanımlıyor. Yazıya göre eğitim ve değerlendirme yöntemleri belirsizliği kabul etmeyi değil, tahmin etmeyi ödüllendiriyor. Bir evcil hayvanın doğum günü gibi seyrek ve keyfî bilgiler kalıptan çıkarılamadığı için en çok orada uydurma görülüyor. ABD’deki NIST’in üretken yapay zekâ profili aynı olguya “confabulation” diyor: kendinden emin ifade edilmiş ama hatalı içerik.

2. Eski bilgi. Anthropic’in yardım sayfasına göre her modelin bir bilgi kesim tarihi (knowledge cutoff) var. Model bu tarihten sonraki olayları bilmeyebilir ve daha yeni bir şey sorulursa doğru yanıt veremeyebilir.

3. Hesap ve sayı hatası. Örnekte göreceksiniz. Kural basit: sayı içeren her sonucu modelin yazdığı gibi bırakmayın, ayrıca hesaplayın.

4. Bağlamı kaçırma. “Lost in the Middle” makalesine göre dil modelleri uzun girdide ilgili bilgi başta ya da sondayken en iyi sonucu veriyor; bilgi ortadayken başarım belirgin düşüyor. Girdi uzadıkça başarım genel olarak azalıyor. Yani yüklediğiniz belgede bir ayrıntı varsa bile yanıt onu görmemiş olabilir.

5. Dalkavukluk. Anthropic’in 2023 tarihli araştırması, insan geri bildirimiyle eğitimin modeli doğru yanıt yerine kullanıcının inancına uyan yanıta itebildiğini gösteriyor. Yanıt kullanıcının görüşüne uyduğunda insanlar onu daha sık tercih ediyor; model de onaylamayı öğrenebiliyor.

Beş yanıt, beş hata: örnek

Çınarlı Tarım Kooperatifi’nde (kurgusal) muhasebeci Nermin Hanım, işini hızlandırmak için yapay zekâdan yardım alıyor. Aldığı beş yanıtın her birinde başka bir hata var.

1. Genelge numarasını sordu; yanıt, var olmayan bir numara verdi. Tür: uydurma.
2. Güncel bir uygulamayı sordu; yanıt geçen yıldan kalma bir uygulamayı anlattı. Tür: eski bilgi.
3. Her üyeye düşen 1.480,50 liralık payın 12 üye için toplamını istedi; yanıt 17.676,00 lira dedi. Doğrusu 17.766,00 lira. Tür: hesap hatası.
4. Kırk sayfalık yönetim kurulu tutanağını yükledi; tutanağın ortasındaki aidat kararı yanıtta yoktu. Tür: bağlamı kaçırma.
5. “Aidatını ödemeyen üyeyi tüzüğe bakmadan listeden çıkarabiliriz, değil mi?” diye sordu; yanıt “Haklısınız” diye başladı. Tür: dalkavukluk.

Her hatanın kontrolü farklı. Aynı yöntem hepsine yaramaz: hesabı resmî kaynakla karşılaştırmak anlamsızdır, genelge numarasını hesap makinesiyle sınamak da.

Türe göre kontrol seçmek

Anthropic’in halüsinasyonu azaltma sayfası birkaç yol öneriyor: modele “bilmiyorum” deme izni vermek, uzun belgelerde önce görevle ilgili kelimesi kelimesine alıntıları çıkarmasını istemek, aynı isteği birkaç kez çalıştırıp yanıtları karşılaştırmak. Aynı sayfa bu tekniklerin hatayı azalttığını ama ortadan kaldırmadığını da söylüyor; önemli bilgiyi her zaman doğrulayın. Aşağıdaki eşleştirme bu önerilere ve yukarıdaki örneğe dayanır.

• Uydurma: yanıttaki numara, isim ya da tarihi resmî kaynakta arayın; bulamazsanız yok sayın.
• Eski bilgi: modele “bu bilgi hangi tarihe ait?” diye sorun ve güncel resmî kaynağa bakın.
• Hesap hatası: sayıları hesap makinesiyle ya da tabloyla kendiniz toplayın.
• Bağlamı kaçırma: “Bu sonucu belgedeki hangi cümleye dayandırdın? Cümleyi aynen alıntıla.” deyin.
• Dalkavukluk: “Bu görüşe karşı en güçlü üç itirazı yaz” deyin.

Bu komut hatayı kendisi çözmez; yalnızca şüpheli yerleri gösterir. Son söz yine kaynakta ve sizdedir.

Adım adım uygulama

1. Son zamanlarda yapay zekâdan aldığınız beş yanıtı seçin; iş ya da ders yanıtı olsun.
2. Her yanıtta hatalı ya da şüpheli bir yeri bulun.
3. Hatayı beş türden birine yazın.
4. Her tür için yukarıdaki listeden bir kontrol yöntemi seçin.
5. Kontrolü gerçekten yapın ve sonucu (doğru ya da hatalı) not edin.
6. Beş satırlık bir tablo kurun: yanıt, hata türü, kontrol yöntemi, sonuç. Tabloyu bir sonraki işte yanınızda tutun.

Kontrol listesi

• Tabloda beş satır var
• Her satırda tek bir hata türü yazılı
• Her tür için farklı bir kontrol seçtim
• Kontrolü yaptım, sonucunu yazdım

Sık yapılan hatalar

• Her hatayı “halüsinasyon” diye adlandırıp tek kontrol uygulamak
• Hesap sonucunu yapay zekâya yeniden sorarak sınamak
• Uzun belgede yanıtın ayrıntıyı gördüğünü varsaymak
• “Haklısınız” ile başlayan yanıtı kanıt saymak

Kendinizi deneyin

Kaynaklar

• OpenAI: Dil modelleri neden halüsinasyon görür? (İngilizce)
• Anthropic Belgeler: Halüsinasyonu azaltmak (İngilizce)
• Anthropic: Dil modellerinde dalkavukluğu anlamak (İngilizce)
• Liu ve arkadaşları: Lost in the Middle (arXiv) (İngilizce)
• NIST AI 600-1: Üretken Yapay Zekâ Profili (İngilizce)
• Anthropic Yardım: Claude’un eğitim verisi ne kadar güncel? (İngilizce)

Son kontrol: 11 Kasım 2026. Bu bilgi bu tarihteki kaynaklara dayanır; ürünlerin özellikleri değişebilir.

Kaynak: yzdersleri.com/ders/yapay-zeka-hata-turleri-ve-kontrolu/ · Yapay Zeka Dersleri