RAG nedir?
RAG, bir dil modelinin cevap üretmeden önce kendi bilgi kaynaklarınızdan ilgili belgeleri çekmesidir. Nasıl çalıştığı, ne zaman fine-tuning yerine tercih edildiği ve üretimde nerede tökezlediği.
Son güncelleme:
RAG — Retrieval-Augmented Generation — bir dil modelinin cevap üretmeden önce dış kaynaklardan ilgili belgeleri çekip o belgeleri okuyarak cevap vermesidir. Model kendi hafızasından değil, o an önüne konan metinden konuşur. Kurumsal kullanımda önemli olan sonucu şudur: modelin hiç görmediği, gizli ya da dün değişmiş bilgiye dayanarak cevap verebilir.
Nasıl çalışıyor
Akış dört adımdan oluşuyor ve her adım ayrı bir kalite sorusu taşıyor.
- Parçalama. Dokümanlar aranabilir parçalara bölünür. Parça çok küçükse bağlam kopar, çok büyükse alakasız metin cevabı boğar.
- Gömme. Her parça bir vektöre çevrilip vector veritabanına yazılır. Buradaki model seçimi, Türkçe içerikte İngilizce içerikten farklı sonuç verebilir.
- Getirme. Soru geldiğinde ona en yakın parçalar çekilir. Sistemin kalitesini en çok belirleyen adım budur — yanlış parça geldiyse en iyi model bile doğru cevap veremez.
- Üretme. Çekilen parçalar bağlam olarak modele verilir ve cevap üretilir; kaynak gösterimi bu adımda mümkün hale gelir.
Uygulamada zamanın çoğu birinci ve üçüncü adımda geçer. Model seçimi, sanılanın aksine, en az belirleyici karardır.
Ne zaman RAG, ne zaman değil
| Durum | Uygun yaklaşım |
|---|---|
| Bilgi sık değişiyor | RAG |
| Cevabın kaynağı gösterilmeli | RAG |
| Veri gizli, dışarı çıkmamalı | RAG (self-hosted) |
| Belirli bir üslup veya format öğretilecek | Fine-tuning |
| Soru genel bilgiyle cevaplanabiliyor | Düz LLM, RAG'a gerek yok |
| Cevap tek bir veritabanı sorgusuyla bulunuyor | Klasik sorgu, RAG'a gerek yok |
Son satır sık atlanıyor: "hangi müşterinin faturası ödenmedi" sorusu bir SQL sorgusudur, RAG problemi değil. RAG, cevabın yapılandırılmamış metnin içinde gömülü olduğu durumlar içindir.
Üretimde nerede tökezliyor
Pilotta iyi çalışıp gerçek kullanımda bozulan sistemlerin sebepleri genellikle aynı üç yerde toplanıyor.
Doküman hijyeni. En sık karşılaştığımız sorun teknik değil: aynı konuda üç farklı sürüm, hangisinin geçerli olduğu belirsiz. Sistem hangisini çekerse ona göre cevap verir. RAG kurmadan önce kaynak dizinin temizlenmesi çoğu zaman projenin en değerli kısmı oluyor.
Getirme kalitesi. Kullanıcı sorusunu doküman diliyle sormaz. "İzin nasıl alınır" sorusu, içinde "izin" kelimesi hiç geçmeyen bir "Yıllık Ücretli Devamsızlık Prosedürü" belgesinde saklı olabilir. Bunu çözmek için soruyu yeniden yazmak, anahtar kelime aramasını vektör aramasıyla birleştirmek ve sonuçları yeniden sıralamak gerekir.
Yetki sınırı. Herkesin her belgeye erişemediği bir kurumda, RAG'ın da erişememesi gerekir. Yetki kontrolünün getirme adımına gömülmesi sonradan eklenebilecek bir özellik değil; sonradan eklenirse arada kalan sürede sistem sızdırır.
Kurumsal senaryolar
Pratikte en çok karşılığını verdiği yerler dahili doküman asistanları, müşteri destek bilgi tabanları ve sözleşme analizi. Kendi projelerimizden sağlık eğitiminde RAG destek asistanı regüle bir alanda bu kalıbın nasıl kurulduğunu gösteriyor.
RAG'ı bir AI agent ile birlikte kullanmak da yaygın: agent hangi soruyu hangi kaynağa soracağına karar verir, RAG cevabı belgeye dayandırır. İkisi rakip değil, tamamlayıcı.
Kapsam, süre ve fiyat bandı için kurumsal bilgi asistanı sayfasına bakabilirsiniz.
Sık sorulanlar
- RAG ile fine-tuning arasındaki fark nedir?
- Fine-tuning modelin ağırlıklarını değiştirir; bir üslubu ya da biçimi öğretmek için uygundur. RAG modele dokunmaz, cevap anında dışarıdan belge verir. Kurumsal bilgi neredeyse her zaman RAG'ın alanıdır: doküman değiştiğinde modeli yeniden eğitmeniz gerekmez, sadece kaynağı güncellersiniz.
- RAG halüsinasyonu tamamen ortadan kaldırır mı?
- Hayır, azaltır. Model doğru belgeyi aldığında cevabı ona dayandırma eğilimi güçlenir, ama yanlış belge geldiğinde ya da soru belgelerin kapsamı dışındaysa yine uydurabilir. En etkili önlem, cevabın hangi belgeye dayandığını kullanıcıya göstermek ve modele 'kaynakta yoksa bilmiyorum de' talimatını vermektir.
- Verilerimiz dışarı çıkmadan RAG kurulabilir mi?
- Evet. Vector veritabanı ve orkestrasyon katmanı kendi sunucunuzda çalışabilir. Karar noktası dil modeli: self-hosted bir model kullanırsanız veri hiç altyapınızdan çıkmaz; harici bir API kullanacaksanız hangi verinin prompt'a girdiğini sınırlamak ve sağlayıcının veri işleme şartlarını okumak gerekir.
- RAG için kaç dokümana ihtiyaç var?
- Alt sınır diye bir şey yok; birkaç yüz sayfalık bir el kitabı da RAG'a değer. Belirleyici olan sayı değil, dokümanların ne kadar güncel ve ne kadar tutarlı olduğu. Çelişen iki prosedürü aynı dizine koyarsanız sistem çelişkiyi de öğrenir.
Diğer rehberler
- AI agent nedir?AI agent, bir hedef için hangi aracı ne zaman kullanacağına kendisi karar veren yapay zeka sistemidir. Chatbot ve klasik otomasyondan farkı, ne zaman gerektiği ve ne zaman gerekmediği.
- AI iş akışı otomasyonu nedir?Klasik otomasyona bir yapay zeka karar katmanı eklemek. Kural tabanlı akışlardan farkı, tipik mimarisi ve hangi süreçte karşılığını verip hangisinde vermediği.
- n8n nedir?n8n, iş süreçlerini görsel bir editörle otomatikleştiren, kendi sunucunuzda çalıştırabileceğiniz bir platform. Lisansının neden açık kaynak olmadığı, faturalama farkı ve nerede ayrıştığı.
Bunu kendi süreçlerinizde konuşalım
Tanımdan uygulamaya geçmek istiyorsanız, mevcut sürecinize bakıp nereden başlanacağını çıkaralım.
Projeni Anlat