Yapay zekâya geçen birçok kurum ve bağımsız profesyonel ilk aşamada şu soruyla karşılaştı: “Modelin benim bilgimi bilmesini nasıl sağlarım?” İlk akla gelen yol, açık bir modeli kendi verinle yeniden eğitmek oldu. Ama bu yol pahalı ve emek isteyen bir iş; bilgi de değiştikçe eskiyor.
Bu yüzden pek çok bilgi sorusunda RAG (Retrieval-Augmented Generation, geri getirimle desteklenmiş üretim) öne çıktı. Burada hangisinin ne zaman uygun olduğunu, abartmadan anlatıyoruz.
| İnce ayar (fine-tuning) | RAG | |
|---|---|---|
| Ne yapar? | Modelin ağırlıklarını kendi örneklerinle günceller | Her soruda ilgili belgeleri bulup modele verir |
| En uygun olduğu iş | Üslup, biçim, davranış, belirli bir görevde tutarlılık | Güncel, değişen ve kaynak gösterilmesi gereken bilgi |
| Bilgi değişince | Genellikle yeniden eğitim gerekir | Belgeyi güncellemek yeter |
| Kaynak gösterme | Zor | Doğal olarak mümkün |
| Maliyet | Veri hazırlığı ve eğitim emeği | Arama altyapısı ve veri düzeni |
Basit bir benzetme: ince ayar, bir uzmanı yeni bir kitabı ezberlemeye zorlamak gibidir; RAG ise uzmanın yanına düzenli bir kütüphane ve doğru sayfayı bulan bir asistan koymaktır. Uzman aynı kalır, masaya her seferinde güncel sayfa gelir. Benzetme fikri anlatır; ince ayarın gerçekte “ezber” olmadığını da unutma.
Geleneksel arama kelime eşleşmesine bakar: “enflasyon” yazarsan o kelimenin geçtiği belgeleri bulur. RAG sistemleri ise metni bir gömme (embedding) modeliyle uzun bir sayı dizisine çevirir. Sayı dizisinin uzunluğu modele göre değişir; örneğin 1.536 boyutlu olabilir. Anlamca yakın metinler bu uzayda birbirine yakın düşer ve “ne kadar yakın” sorusu kosinüs benzerliği gibi ölçülerle hesaplanır.
Bulma hatası: Doğru parça bulunamazsa model doğru cevabı veremez; arama kalitesi sonucun kalitesidir.
Veri kalitesi: Hatalı, eski veya dağınık belge getirirse, model bunu da güvenle aktarabilir.
Yine de hata yapabilir: RAG halüsinasyonu azaltır, ortadan kaldırmaz. Kaynakları kontrol etme alışkanlığı gerekir (bkz. Otomasyon Yanılgısı).
Gizlilik ve yetki: Belge havuzuna kimin neye erişebileceği baştan düşünülmelidir.
Güncel en iyi model birkaç ay sonra başkasıyla değişebilir; modeller giderek bir emtia gibi davranıyor. Buna karşılık yıllar içinde biriktirdiğin, düzenlediğin ve modelden bağımsız tuttuğun veri, başkalarının hazır satın alamayacağı bir birikimdir. Bunun değeri sektöre ve veri kalitesine göre değişir; garanti edilen bir avantaj değildir.
Özetle: bilgi ağırlıklı işlerde önce RAG’ı, üslup ve davranış ihtiyacında ince ayarı, gerekirse ikisini birlikte düşünmek makul bir yol. Bu yazı teknik veya mali tavsiye değildir; kendi işin için küçük bir denemeyle başlamak en güvenlisidir. Uzun metinleri tek seferde vermenin sınırı için Bağlam Penceresi İllüzyonu yazısına bakabilirsin.
Bilgelere Sor ve Nörofinans Koçu, sorunla en ilgili kartları bulup yorumu onlara dayandırır; RAG mantığının sade bir örneğidir.
Bu yazı genel bilgi amaçlıdır; teknik, hukuki veya mali tavsiye değildir. Şemalar kavramı anlatmak için sadeleştirilmiştir. Yapay zekâ alanı hızlı değiştiği için ayrıntılar zamanla eskiyebilir.
Merak edilenler
Her soruda kendi belgelerin arasından ilgili parçaları bulup modele verme ve cevabı bunlara dayandırma yöntemidir. Türkçesi geri getirimle desteklenmiş üretimdir.
İnce ayar modelin ağırlıklarını kendi örneklerinle günceller ve daha çok üslup, biçim ve davranışı ayarlar. RAG ise bilgiyi modele her seferinde dışarıdan getirir; güncel ve kaynak gösterilmesi gereken işlerde pratiktir.
Hayır. İkisi farklı ihtiyaçlara hizmet eder ve çoğu zaman birlikte kullanılır. Bilgi ağırlıklı işlerde RAG çoğu zaman ilk tercihtir; üslup ve davranış için ince ayar mantıklı olabilir.
Metin, anlamını temsil eden uzun bir sayı dizisine çevrilir; anlamca yakın metinler birbirine yakın düşer. Vektör veri tabanı bu yakınlığa göre hızlı arama yapar.
Doğru parça bulunamazsa cevap kötü olur, eski ya da hatalı belge getirirse model bunu aktarabilir, halüsinasyon tamamen kalkmaz ve veriye kimin eriştiği ayrıca düşünülmelidir. Bu yazı teknik tavsiye değildir.