Yapay zekânın verdiği bilgiyi doğrulamak
- Okuma süresi: 4 dk
- Kod bilgisi gerekmez
Bu derste yapay zekânın verdiği bir bilgiyi adım adım nasıl doğrulayacağınızı öğreneceksiniz. Yapay zekânın neden yanılabildiğine girmeyeceğiz; odak kaynak istemek, kaynağı açıp okumak, resmî kaynağa gitmek ve tarihi kontrol etmek.
Aklınıza bir soru mu takıldı?
Kaynak isteyin, sonra kaynağı açın
Önce komutunuzda iddiaların dayanağını isteyin. Anthropic’in yanlış bilgiyle ilgili rehberi üç şeyi öneriyor: Bilmediğinde bilmediğini söylemesine izin verin, her iddiayı bir kaynak ya da alıntıyla desteklettirin, desteğini bulamadığı iddiayı sildirin.
Komut
Bir tüketici olarak, internetten aldığım bir ürünü kaç gün içinde iade edebileceğimi öğrenmek istiyorum. Yanıtındaki süre, tutar ve yasa maddesi gibi her somut bilgi için kaynağını ve kaynağı yayımlayan kurumu yaz. Emin olmadığın ya da kaynağını bulamadığın bilgiyi “doğrulayamadım” diye ayrıca işaretle. Tahmin yürütme.
Ama kaynak göstermesi, bilginin doğru olduğunu kanıtlamaz. OpenAI, isim, başlık, tarih, rakam ve atıf gibi ayrıntıları kullanmadan önce doğrulamayı öneriyor ve kendinden emin bir tonun doğruluk göstergesi olmadığını vurguluyor. Gemini’nin kendi SSS sayfası da aracın uydurma bilgi, kişi ve istatistik üretebildiğini kabul ediyor. Bu yüzden her kaynağı kendiniz açın:
- Bağlantı açılıyor mu, adres gerçekten o kuruma mı ait?
- Yapay zekânın söylediği cümle ya da rakam sayfada gerçekten geçiyor mu? Sayfada arama yaparak bulun.
- Sayfayı kim yayımlamış, ne zaman yayımlamış, güncellenmiş mi?
- Başka bir bağımsız kaynak aynı bilgiyi veriyor mu?
- Kaynak doğru olsa bile yapay zekâ onu doğru aktarmış mı? Rakamı ve koşulları kaynaktaki hâliyle karşılaştırın.
Resmî kaynağa gidin, tarihi kontrol edin
Sonucu para, hak ya da sağlıkla ilgili olan bilgilerde en güvenilir kaynak, konunun sahibi kurumun kendi sitesidir. Örneğin iade süresi için ilgili bakanlık, vergi için gelir idaresi, kişisel veri için KVKK, ilaç ve sağlık konuları için sağlık kurumları. Yapay zekâyı bu kaynağı bulmak için kullanabilirsiniz; kararı ise kaynağın kendisine dayandırın.
Kaynakları da güvenilirliğe göre sıralayın. En üstte kanun metni, kurum duyurusu ve resmî dokümantasyon gibi birincil kaynaklar durur. Sonra o kaynakları aktaran güvenilir haber kuruluşları gelir. Bir blog yazısı ya da forum paylaşımı ise en altta, ancak yol gösterici olarak kullanılır. Yapay zekâ bu sıralamayı kendiliğinden yapmaz; komutunuza “önce resmî kaynakları ver” yazabilirsiniz.
Tarih ikinci büyük tuzaktır. Ücretler, harçlar, oranlar, başvuru son günleri ve mevzuat zamanla değişir. Yapay zekâ, geçerliliğini yitirmiş bir bilgiyi bugünün bilgisi gibi sunabilir. Bu nedenle her bilgi için “hangi tarihli, hangi kaynaktan” diye sorun ve kaynak sayfasındaki yayım ya da güncelleme tarihini kendiniz görün.
Zayıf komut
Bu yıl ev kirası artış sınırı kaç?
Güçlü komut
Bugünün tarihi: GÜN AY YIL (bugünün tarihini buraya yazın). Ev kirası artış sınırıyla ilgili şu anda geçerli kuralı, hangi kaynağa dayandığını ve o kaynağın tarihini belirterek anlat. Güncel olduğundan emin değilsen bunu açıkça söyle ve bakmam gereken resmî kurumu yaz.
İpucu
Önemli bir bilgiyi tek bir yanıta bırakmayın. Aynı soruyu yeni bir sohbette tekrar sorun ya da başka bir araca sorun. Anthropic, aynı komutu birkaç kez çalıştırıp sonuçları karşılaştırmayı bir doğrulama yöntemi olarak sayıyor; tutarsız yanıtlar, bilginin sağlam olmadığına işaret edebilir. Tutarlı yanıt da doğruluğu garanti etmez; yine kaynağa bakın.
Arama yapan ve yapmayan araçlar
Birçok sohbet botu artık internette arama yapabiliyor. Bu, güncel bilgiye ulaşmayı kolaylaştırır ve yanıta bağlantı ekler. Üç örnek:
- ChatGPT: OpenAI’ye göre araç, web’de ne zaman arama yapacağına soruya göre kendisi karar veriyor; yanıtın altındaki Kaynaklar düğmesi başvurulan bağlantıları listeliyor.
- Claude: Yardım sayfasına göre sohbette web araması açıldığında ya da araç gerekli bulduğunda arama yapılıyor ve aramayla gelen yanıtlarda atıflar bulunuyor. Aynı sayfa, doğruluğun garanti edilmediğini ve önemli kararlarda yetkili kaynakların kullanılmasını öneriyor.
- Gemini: Yanıtın altındaki Google düğmesi, yanıttaki ifadeleri Google Aramasıyla karşılaştırıyor ve değerlendirilebilen ifadeleri işaretliyor. Her yanıtta kaynak düğmesi çıkmıyor.
Claude ve Gemini aynı uyarıyı yapıyor: Kaynak göstermek doğruluk garantisi değildir. Google, çift kontrol özelliğinin de yanılabileceğini, arama sonuçlarının bir ifadeyi destekliyormuş gibi görünüp aslında çelişebileceğini ve web içeriğinin kendisinin de yanlış olabileceğini yazıyor. Yani araç ne kadar “arayan” türden olursa olsun, okuma ve değerlendirme işi sizde kalır.
Arama kapalıyken ya da kullanılmadığında yanıtın güncelliğinden emin olamazsınız. Aramanın yapılıp yapılmadığını çoğu zaman yanıttaki kaynak bağlantılarından anlarsınız. Bağlantı yoksa bilgiyi doğrudan resmî kaynaktan kontrol etmeniz gerekir; araç destekliyorsa aramayı açıp yeniden sorabilirsiniz.
Kendinizi deneyin
Yapay zekâ size bir yasa maddesi ve bir internet bağlantısı verdi. İlk adımınız ne olmalı?
Kaynaklar
- OpenAI: Dil modelleri neden yanlış bilgi üretir? (İngilizce)
- Anthropic: Yanlış bilgi üretimini azaltma (İngilizce)
- OpenAI: ChatGPT aramasının tanıtımı (İngilizce)
- Claude Yardım Merkezi: Web aramasını etkinleştirme ve kullanma (İngilizce)
- Gemini Uygulamaları SSS (İngilizce)
- Gemini Yardım: İlgili kaynakları görüntüleme ve yanıtları çift kontrol etme (İngilizce)
- KVKK: İş Yerlerinde Üretken Yapay Zekâ Araçlarının Kullanımı (doküman) (Türkçe, PDF)
Kaynak: yzdersleri.com/ders/yapay-zekanin-verdigi-bilgiyi-dogrulamak/ · Yapay Zeka Dersleri
Dersi bitirdiniz mi?
İşaretlerseniz menüde ve ilerleme çubuğunda görünür. Bu bilgi yalnızca sizin tarayıcınızda saklanır.
Öğrenme yolunda sıradaki ders: Yapay zekâdan daha fazlasını isteyin: Görev değil, sonuç
Bu ders işinize yaradı mı?
Anonim oydur; kişisel veri toplanmaz.
