Büyük model, küçük model: fark ne?

Yapay zekâ haberlerinde “büyük model” ve “küçük model” ifadelerini sık görürsünüz. Bu derste bu iki sözcüğün neyi ölçtüğünü, her birinin ne zaman işe yaradığını ve sizin işiniz için hangisinin yeterli olduğunu nasıl deneyeceğinizi öğreneceksiniz.

Aklınıza bir soru mu takıldı?

Sorunuzu ya da aradığınız konuyu yazın Ders bul

Bu derste neler öğreneceksiniz?

• Model boyutunun neyle ölçüldüğünü
• Büyük modelin artısını ve bedelini
• Küçük modelin neden “kötü model” demek olmadığını
• Aynı işi iki seçenekle deneyip sonucu kaynak metne göre kontrol etmeyi

Büyük ne demek?

Google’ın makine öğrenmesi dersine göre büyük dil modelleri, parametre (parameter) sayılarının çokluğu yüzünden “büyük” sayılır. Parametre, modelin eğitim sırasında kazandığı iç ayarlardır; sayısı bir modelin kapasitesini gösteren kabaca bir ölçüdür. Aynı sayfada dönüştürücü (transformer) modellerinin yüz milyarlarca, hatta trilyonlarca parametreye ulaşabildiği yazıyor.

Sayfada önemli bir not daha var: araştırmalar, daha çok parametreli modellerin tutarlı biçimde daha küçüklerden iyi sonuç verdiğini gösteriyor, ama bunları çalıştırmak için daha çok kaynak gerekiyor. Yani büyüklüğün bir bedeli var: daha fazla bilgisayar gücü ve daha fazla maliyet.

Küçük model nasıl ortaya çıkar?

Küçük bir model sıfırdan eğitilebilir. Bir de “damıtma” (distillation) yolu vardır. Google’a göre damıtmada büyük bir “öğretmen” modelin çıktılarından yararlanılarak daha küçük bir “öğrenci” model eğitilir. Öğrenci model genellikle daha hızlı ve çalıştırması daha ucuz olur, ama çoğunlukla orijinalden biraz daha az doğrudur.

Küçük modeller bu yüzden cihazların içine girebiliyor. Apple’ın 2024 tarihli duyurusu, yaklaşık üç milyar parametreli bir modelin cihazda; daha büyük bir modelin ise Apple’ın sunucularında çalıştığını anlatıyor. Aynı sayfa, küçük modelin yazı düzeltme ve bildirim özetleme gibi işler için tasarlandığını, özetlerin ise zaman zaman bir inceliği ya da ayrıntıyı kaçırabildiğini de söylüyor.

Google da 2024’te Gemma adlı hafif, açık modelleri duyurdu. Duyuruya göre bu modeller bir geliştiricinin dizüstü ya da masaüstü bilgisayarında çalışabiliyor. Google, modellerin boyutlarına göre en iyi performansı verdiğini ve bazı ölçütlerde çok daha büyük modelleri geçtiğini söylüyor. Bu, şirketin kendi iddiasıdır; bağımsız bir ölçüm değildir. Yine de şunu hatırlatır: boyut, kalitenin tek belirleyicisi değildir.

Hangi iş için hangisi?

Bir senaryo düşünün: İzmir’de küçük bir kafe işleten biri, günlük menü duyurusunu düzeltmek istiyor. Bu kısa ve basit bir iştir; hızlı bir seçenek büyük olasılıkla yeter. Aynı kişi otuz sayfalık bir kira sözleşmesini özetletecekse, hata maliyeti yüksektir ve ayrıntı kaçırmak risklidir. Orada daha güçlü bir seçeneği denemek ve çıktıyı mutlaka metne karşı kontrol etmek gerekir.

Seçim yalnızca hız meselesi de değildir. Anthropic’in geliştirici belgesine göre kullanıma göre faturalanan erişimde her modelin kendi giriş ve çıkış oranı vardır. Yani bir yazılım şirketi için model seçimi doğrudan ödemeyi etkiler. Bireysel kullanıcı olarak siz bunu görmezsiniz, ama araçların neden birden fazla seçenek sunduğunu anlamanıza yardım eder.

Hız kazandığınız yerde kontrolü atlamayın. Apple’ın kendi sayfası bile küçük modelin özetlerinde ayrıntı kaybı olabileceğini yazıyor; büyük modelde de hata olabilir. Ayrıca bir modelin cihazınızda çalışabilmesi verinizin cihazdan çıkmayacağı anlamına gelebilir, ama bunu aracın kendi gizlilik sayfasından kontrol etmeniz gerekir.

Bunun kesin bir kuralı yok. En güvenilir yol, kendi işinizi iki seçenekle denemektir. Çoğu araç “hızlı” ve “gelişmiş” gibi iki ya da daha fazla seçenek sunar. Adlar sık değiştiği için burada belirli bir ad vermiyoruz; aracınızın model seçim menüsüne bakın.

Adım adım uygulama

1. Kişisel veri içermeyen, 300 kelime kadar kendi yazdığınız bir metin seçin (örneğin bir duyuru).
2. Aracın hızlı seçeneğiyle metni üç cümleyle özetletin ve çıktıyı bir yere kaydedin.
3. Aynı komutu aracın gelişmiş seçeneğiyle yeniden çalıştırın ve ikinci çıktıyı kaydedin.
4. Orijinal metni ve iki özeti aşağıdaki komutla yapay zekâya karşılaştırtın.
5. Komutun bulduğu eklenmiş ya da eksik bilgileri orijinal metinde kendiniz kontrol edin.
6. Günlük işte yeterli olan en hızlı seçeneği kullanın; önemli belgelerde güçlü seçeneği ve kendi kontrolünüzü birlikte kullanın.

Kontrol listesi

• İki çıktıyı da orijinal metinle kendim karşılaştırdım.
• Kişisel veri içeren bir metin kullanmadım.
• Aracın hangi seçeneğinin hangi işe yettiğini not ettim.
• Önemli belgelerde çıktıyı tek başına yeterli saymadım.

Sık yapılan hatalar

• “Büyük olan her zaman doğrudur” diye düşünmek. Büyük model de yanılır.
• “Küçük model kötüdür” diye düşünüp işi gereksiz yere pahalı ya da yavaş seçenekle yapmak.
• Bir şirketin kendi ölçüm iddiasını bağımsız sonuç gibi aktarmak.
• İki çıktıyı karşılaştırırken orijinal metne bakmadan “daha akıcı olanı” seçmek.

Kendinizi deneyin

Kaynaklar

• Google Makine Öğrenmesi Hızlandırılmış Kursu: Büyük dil modeli nedir (İngilizce)
• Google Makine Öğrenmesi Hızlandırılmış Kursu: İnce ayar, damıtma ve komut mühendisliği (İngilizce)
• Apple Machine Learning Research: Apple temel modelleri (2024) (İngilizce)
• Google: Gemma açık modelleri duyurusu (21 Şubat 2024) (İngilizce)
• Anthropic geliştirici belgeleri: Fiyatlandırma yapısı (İngilizce)

Son kontrol: 10 Kasım 2026

Kaynak: yzdersleri.com/ders/buyuk-model-kucuk-model-farki/ · Yapay Zeka Dersleri