RAG hangi sorunu çözer?
RAG, bir yapay zeka modelinin kuruluşunuzun belgelerini bilmemesi veya dünya hakkındaki bilgisinin güncelliğini yitirmiş olması sorununu çözer. Modeli yeniden eğitmek yerine, yanıt vereceği anda ona ilgili metin parçalarını sunarsınız.
50 kişilik hayali bir tur operatörü olan Tidewater Travel'ı düşünün. Rezervasyon ekibi, 90 sayfalık koşullar ve prosedürler el kitabıyla ilgili aynı soruları tekrar tekrar soruyor. Ekip lideri Leon, genel amaçlı bir sohbet botunu denedi: 'Müşteri, hareket tarihinden 10 gün önce ana yolcunun adını değiştirebilir mi ve bunun bir ücreti var mı?' Sohbet botu, havayolu kuralları ve Tidewater'ın almadığı bir ücret hakkında kendinden emin, genel bir yanıt verdi. Asıl yanıt, sohbet botunun hiç görmediği el kitabının 4.2 bölümünde.
Bilgi erişimiyle desteklenen üretim nasıl çalışır?
Erişim destekli üretim üç aşamada çalışır: soruyla en ilgili metin bölümlerini bulur, bunları isteme ekler ve ardından modelin bu bölümlere dayanarak bir yanıt üretmesini sağlar. Anthropic'in sözlüğü de aynı fikri açıklar: ilgili bilgiler, sorgu sırasında bir bilgi tabanından alınır ve asıl soruyla birlikte modele iletilir.
Terim, Patrick Lewis ve çalışma arkadaşlarının 2020 tarihli bir araştırma makalesinden gelir. Bu çalışmada bir dil modeli, aranabilir bir belge diziniyle birleştirilmiş ve yanıtların yalnızca modelin verdiği yanıtlardan daha somut ve olgulara daha uygun olduğu görülmüştür.
1. Belgeleri hazırlayın
El kitabı, her biri bir bölüm veya birkaç paragraftan oluşan parçalara ayrılır. Böylece arama, kitabın tamamı yerine konuyla ilgili belirli bir metin parçasını döndürebilir.
2. Anlama göre indeksleyin
Her parça, anlamını temsil eden bir sayı listesine, yani bir gömme vektörüne dönüştürülür ve bir vektör veritabanında saklanır. AWS bu adımı, verilerin sorularla eşleştirilebilmesi için sayısal temsillere dönüştürülmesi olarak açıklar.
3. Bilgiyi getirin
Soru da aynı şekilde dönüştürülür ve en yakın parçaları bulmak için dizinle eşleştirilir. Birçok sistem bunun yanında standart anahtar kelime aramasını da kullanır.
4. İstemi ek bilgilerle zenginleştirin
En ilgili metin parçaları, 'yalnızca bu bölümlere dayanarak yanıt ver ve kaynak olarak ilgili bölümü belirt' gibi bir talimatla isteme yerleştirilir.
5. Oluşturun
Model, yanıtı sağlanan metinden yazar; ideal olarak kullandığı bölümlerden alıntı yapar veya bu bölümleri kaynak gösterir.
RAG kullanılan ve kullanılmayan bir yanıt nasıl olur?
RAG olmadan: 'Çoğu seyahat şirketi, hava yolu şirketinin politikasına bağlı olarak kişi başı yaklaşık 50 ila 100 ücret karşılığında isim değişikliğine izin verir.' Kulağa yararlı geliyor, ancak bu Tidewater'ın politikası değil ve kimse bilginin nereden geldiğini kontrol edemiyor.
RAG ile: sistem, el kitabının 4.2 ve 4.5 bölümlerini getirir ve model şu yanıtı verir: 'Evet. 4.2 bölümü, ana yolcunun adının hareket tarihinden 7 gün öncesine kadar ücretsiz değiştirilmesine izin veriyor. 4.5 bölümü, uçuş dahil paketlerde hava yolu şirketinin kendi değişiklik ücretinin uygulanabileceğini ve bu ücretin rezervasyon sisteminde gösterildiğini belirtiyor. Kaynak: El kitabının 4.2 ve 4.5 bölümleri.' Leon her iki bölümü de açıp yanıtı saniyeler içinde doğrulayabilir. El kitabı değişirse yeni sürüm dizine eklenir eklenmez yanıt da değişir.
RAG ne zaman kullanılmalı, ne zaman kullanılmamalı?
Yanıtların belirli ve değişen bir belge kümesinden gelmesi ve insanların kaynağı görmesi gerektiğinde RAG kullanın. Politika el kitapları, ürün belgeleri, destek bilgi tabanları ve sözleşme arşivleri için uygundur. Anthropic sözlüğü, bunun özellikle güncel bilgiler, alana özgü bilgiler ve kaynakların açıkça belirtilmesi için yararlı olduğunu belirtir.
Belgeler doğrudan isteme yapıştırılabilecek kadar kısaysa, görev olgulardan çok üslup veya biçimle ilgiliyse ya da kaynak belgelerin kendisi güvenilir değilse RAG çözüm değildir. Ayrıca erişim izinlerinin yerini tutmaz: bir metin parçası getirilirse model onu tekrarlayabilir; bu nedenle erişim kontrolleri getirme işleminden önce uygulanmalıdır.
Bilgi erişimiyle desteklenen üretimde neler ters gidebilir?
RAG sistemlerinde sorun genellikle yanıt üretiminden değil, bilgi getirme aşamasından kaynaklanır: yanlış metin parçası bulunursa model buna dayanarak kendinden emin bir yanıt yazar. Anthropic, RAG sistemlerinin etkililiğinin bilgi tabanının ve getirilen içeriğin kalitesine ve konuyla ilgisine bağlı olduğunu belirtiyor.
Yanlış veya eksik parça
İstisnayı içeren bölüm, kuraldan farklı bir parçada yer aldığı için yanıt istisnayı atlar.
Güncelliğini yitirmiş veya yinelenen sürümler
Geçen yılın el kitabı bu yılın el kitabıyla birlikte hâlâ dizinde yer alıyor ve aramada eski olan getiriliyor.
Model metinden uzaklaşıyor
Model, getirilen metni genel bilgisiyle harmanlar. Yalnızca kaynaklara dayanarak yanıt vermesini isteyen talimatlar ve görünür kaynak gösterimleri, bunu fark etmeyi kolaylaştırır.
İyi bir yanıt yok
Sistem tahminde bulunmak yerine belgelerin soruyu kapsamadığını söylemelidir.
RAG'nin Tosheo.ai kataloğundaki yeri nedir?
Erişim destekli üretim, yapay zeka uygulamaları geliştirme kursunun Yapay zeka uygulamaları geliştirme kategorisinde yer alır. Bu ders, şirket belgelerine dayalı yapay zeka asistanlarıyla çalışan herkes için kavramsal anlatım sunar. Kayıt olduktan sonra sunulan Kod yolunda, belgeleri bölümlere ayırıp vektör temsilleri oluşturmaktan bilgi erişimine ve kaynak gösteren yanıtlara kadar küçük bir RAG uygulamasını uygulamalı olarak geliştirirsiniz; her adımda puanlama kılavuzuna dayalı geri bildirim alırsınız.
Kaynaklar ve kapsam
Anthropic Claude belgeleri, RAG sözlük maddesi (kontrol tarihi: 19 October 2026) ↗
Anthropic Claude belgeleri, kaynak gösterme özelliği (kontrol tarihi: 19 October 2026) ↗