İnce ayar, istem ve RAG: modeli işe uyarlamanın üç yolu

Selin Hanım, bir beyaz eşya firmasında müşteri hizmetleri süreç sorumlusu. Firmanın yazılım tedarikçisi, temsilcilere yanıt öneren asistan için cazip bir teklif getirdi: “Üç yıllık servis kayıtlarınızla modeli eğitelim, garanti kurallarınızı ezbere bilsin.” Oysa garanti ve kampanya koşulları her sezon değişiyor. Selin Hanım’ın aklındaki soru şu: Model bugün ezberlerse, üç ay sonra eski kuralı söylemeye devam etmez mi?

Bu derste, bir dil modelini kurumun işine uydurmanın üç yolunu yan yana koyacaksınız: komutu iyileştirmek, modele her soruda ilgili belgeyi getirmek ve modeli kendi örneklerinizle yeniden eğitmek. Kod yazmayacaksınız. Amaç, bir tedarikçi teklifini dinlerken doğru soruları sorabilmek ve kararı ölçümle verebilmek.

Aklınıza bir soru mu takıldı?

Sorunuzu ya da aradığınız konuyu yazın Ders bul

Bu derste neler öğreneceksiniz?

• Komutu iyileştirmenin, belge getirmenin ve modeli yeniden eğitmenin modelde neyi değiştirdiğini birer cümleyle ayırt etmek.
• Bir işin hatalarını “bilgi eksik”, “biçim tutarsız” ve “görev tarif edilemiyor” diye sınıflandırıp her birini bir yönteme bağlamak.
• Yöntem seçmeden önce 20–30 soruluk bir değerlendirme seti (evaluation set) ve sayıyla yazılmış başarı ölçütü hazırlamak.
• Bir tedarikçinin modeli yeniden eğitme önerisini veri, güncelleme sıklığı ve bağımlılık açısından sorgulamak.

Üç yol, modelin üç farklı yerine dokunur

İstem mühendisliği (prompt engineering), modelin kendisine dokunmadan ona verdiğiniz talimatı, örnekleri ve biçim kurallarını iyileştirmektir. Değişiklik dakikalar içinde denenir, beğenmezseniz geri alırsınız. Az sayıda örneği komutun içine koymak, yani örnekli istem (few-shot prompting), bu yolun en güçlü araçlarından biridir.

Getirme destekli üretim (retrieval-augmented generation, RAG), soru geldiğinde ilgili belge parçasını bir arama adımıyla bulup modele soruyla birlikte vermektir. Bu yöntemi tanıtan 2020 tarihli makale, modelin eğitimde öğrendiği bilgiyi parametrik bellek (parametric memory), dışarıdan getirilen belgeleri ise parametrik olmayan bellek diye ayırır. Belgeyi güncellediğinizde yanıtın dayandığı bilgi de güncellenir; model yeniden eğitilmez.

İnce ayar (fine-tuning), hazır bir modeli sizin girdi ve çıktı örneklerinizle ek bir eğitimden geçirmektir. Burada değişen modelin kendisidir. Google Cloud belgesi, denetimli ince ayarda (supervised fine-tuning) her örneğin modelden beklediğiniz çıktıyı gösterdiğini anlatır; en az 10 örnek ister, iyi sonuç için en az 100–500 örnek önerir.

Hangi sorun hangi yola gider?

Üç sağlayıcının belgeleri benzer bir sırayı işaret eder: ince ayar, komutla istenen sonuç alınamadığında düşünülen bir adımdır. OpenAI belgesi, değerlendirmeleri (evals) komut yazmadan önce bile hazırlamayı önerir. Anthropic’in istem rehberi işe başlamadan önce üç şey ister: açık başarı ölçütü, bu ölçütü deneyle sınamanın bir yolu ve geliştirilecek ilk taslak komut. Aynı rehber, her başarısızlığın komutla çözülmeyeceğini de not eder; örneğin hız ve maliyet bazen başka bir model seçerek daha kolay iyileşir.

• Bilgi eksik ya da eskiyor: Kampanya koşulu, fiyat listesi, yönetmelik gibi sık değişen bilgide ilk aday RAG’dır. EMNLP 2024’te yayımlanan bir karşılaştırmada, metinler üzerinde denetimsiz ince ayar biraz iyileşme sağlarken RAG hem bilinen hem yeni bilgide sürekli daha iyi sonuç verdi. Araştırmacılar, modellerin bu yolla yeni olguları öğrenmekte zorlandığını yazdı.
• Biçim ya da üslup tutarsız: Yanıt bazen uzun, bazen kısa geliyorsa önce net biçim kuralı ve örnek ekleyin. Google belgesi ince ayarı ancak komut beklenen sonucu yeterince tutarlı vermediğinde, görev komutla tarif edilemeyecek kadar karmaşık olduğunda ya da uzun örnekleri komuttan çıkarıp bağlamı kısaltmak istediğinizde önerir.
• Ölçek ve hız: OpenAI belgesine göre ince ayar şu kazançları sağlayabilir: tek bir isteğin bağlam penceresine (context window) sığmayacak kadar çok örnek verebilmek, daha kısa komutla belirteç (token) harcamasını ve gecikmeyi (latency) azaltmak, belirli bir iş için daha küçük bir modeli eğitmek.

Bir uyarı daha: İnce ayar, modeli sağlayıcının eğitim hizmetine bağlar. OpenAI’nin aynı belgesi, ince ayar platformunu kademeli olarak kapattığını, yeni kullanıcılara açmadığını ve eğitilmiş modellerin temel modelleri kullanımdan kalkana kadar çalışacağını yazıyor. Hizmetlerin durumu sağlayıcıya ve hesabınıza göre farklı görünebilir. Karar verirken “Bu eğitim, temel model değişince ne olacak?” sorusunu mutlaka sorun.

Adım adım uygulama

1. Asistanın yapacağı işi tek cümleyle, başarı ölçütünü sayıyla yazın (ör. “30 sorunun en az 28’inde doğru süre”). Ölçüt bir sayı ve bir sınır içeriyorsa adım tamamdır.
2. Kişisel veri içermeyen 20–30 gerçekçi soru ve her biri için doğru yanıtı içeren bir değerlendirme seti hazırlayın. Her doğru yanıtın hangi belgenin hangi bölümüne dayandığı yazılıysa adım tamamdır.
3. Önce yalnızca komutu iyileştirerek seti çalıştırın ve puanı not edin. Puan ve tarih bir tabloya yazıldıysa adım tamamdır.
4. Yanlış yanıtları üç kutuya ayırın: bilgi eksik ya da eski, biçim ya da üslup tutarsız, görev tarif edilemiyor. Her hatalı yanıt bir kutuya girdiyse adım tamamdır.
5. Her kutu için bir yöntem, gereken veri ve yeniden ölçüm tarihi içeren tek sayfalık karar notu yazın. Not, aynı setle yapılacak ikinci ölçümü ve bilgi değişince kimin neyi güncelleyeceğini içeriyorsa görev tamamdır.

Sık yapılan hatalar

• Sık değişen kuralları ince ayarla “öğretmeye” çalışmak. Kural değiştiğinde model eski bilgiyi söylemeye devam edebilir ve her güncelleme yeni bir eğitim ister.
• Ölçmeden yöntem seçmek. Değerlendirme seti olmadan hangi yöntemin işe yaradığını, yalnızca birkaç güzel örneğe bakarak sanırsınız.
• RAG kurunca kaynağı unutmak. Getirilen belge eski, eksik ya da çelişkiliyse model de o belgeye dayanarak yanlış yanıt verir; belge sahibi ve güncelleme takvimi belirlenmelidir.

Kendinizi deneyin

Kaynaklar

• OpenAI: Model optimization (İngilizce)
• Anthropic: Prompt engineering overview (İngilizce)
• Google Cloud: Text model supervised tuning (İngilizce)
• Ovadia ve diğerleri: Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs (EMNLP 2024) (İngilizce)
• Lewis ve diğerleri: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (NeurIPS 2020) (İngilizce)

Son kontrol: 13 Kasım 2026. Bu bilgi 13.11.2026 tarihli kaynaklara dayanır; durum değişebilir.

Kaynak: yzdersleri.com/ders/ince-ayar-istem-ve-rag-modeli-ise-uyarlamanin-uc-yolu/ · Yapay Zeka Dersleri