Masalah apa yang diatasi oleh RAG?
RAG mengatasi masalah model AI yang tidak mengetahui dokumen organisasi Anda, atau hanya memiliki pengetahuan dunia yang sudah usang. Alih-alih melatih ulang model, Anda memberikan bagian dokumen yang tepat saat model menjawab.
Bayangkan sebuah operator tur fiktif dengan 50 karyawan, Tidewater Travel. Tim pemesanannya terus menanyakan hal yang sama tentang buku panduan ketentuan dan prosedur sepanjang 90 halaman. Seorang pemimpin tim, Leon, mencoba chatbot umum: 'Bisakah pelanggan mengganti nama penumpang utama 10 hari sebelum keberangkatan, dan apakah ada biaya?' Chatbot itu memberikan jawaban umum dengan penuh keyakinan tentang aturan maskapai dan biaya yang tidak dikenakan oleh Tidewater. Jawaban sebenarnya ada di bagian 4.2 buku panduan tersebut, yang belum pernah dibaca chatbot itu.
Bagaimana cara kerja generasi dengan dukungan pengambilan informasi?
Generasi berbantuan penelusuran bekerja dalam tiga tahap: mengambil bagian teks yang paling relevan dengan pertanyaan, menambahkannya ke instruksi, lalu membiarkan model menghasilkan jawaban berdasarkan bagian teks tersebut. Glosarium Anthropic menjelaskan gagasan yang sama: informasi yang relevan diambil dari basis pengetahuan saat pertanyaan diajukan, lalu diteruskan ke model bersama pertanyaan awal.
Istilah ini berasal dari makalah penelitian tahun 2020 oleh Patrick Lewis dan rekan-rekannya, yang menggabungkan model bahasa dengan indeks dokumen yang dapat ditelusuri dan menemukan bahwa jawabannya lebih spesifik serta lebih faktual dibandingkan jika hanya menggunakan model.
1. Siapkan dokumen
Buku panduan dibagi menjadi potongan, misalnya masing-masing satu bagian atau beberapa paragraf, agar pencarian dapat menghasilkan kutipan yang terfokus, bukan seluruh buku.
2. Buat indeks berdasarkan maknanya
Setiap potongan diubah menjadi representasi vektor, yaitu daftar angka yang mewakili maknanya, lalu disimpan dalam basis data vektor. AWS menjelaskan langkah ini sebagai proses mengubah data menjadi representasi numerik agar dapat dicocokkan dengan pertanyaan.
3. Ambil informasi
Pertanyaan dikonversi dengan cara yang sama dan dicocokkan dengan indeks untuk menemukan potongan teks yang paling mendekati. Banyak sistem juga menggunakan pencarian kata kunci biasa secara bersamaan.
4. Lengkapi instruksi untuk AI
Potongan teks teratas dimasukkan ke dalam instruksi dengan arahan seperti 'jawab hanya berdasarkan kutipan-kutipan ini dan sebutkan bagiannya'.
5. Hasilkan
Model menulis jawaban berdasarkan teks yang diberikan, idealnya dengan mengutip atau mencantumkan rujukan ke bagian yang digunakan.
Seperti apa jawaban dengan dan tanpa RAG?
Tanpa RAG: 'Sebagian besar perusahaan perjalanan mengizinkan perubahan nama dengan biaya sekitar 50 hingga 100 per orang, sesuai kebijakan maskapai.' Jawaban ini terdengar membantu, tetapi bukan kebijakan Tidewater, dan tidak ada yang dapat memeriksa dari mana informasi itu berasal.
Dengan RAG: sistem mengambil bagian 4.2 dan bagian 4.5 dari buku panduan, lalu model menjawab: 'Ya. Bagian 4.2 mengizinkan perubahan nama penumpang utama hingga 7 hari sebelum keberangkatan tanpa biaya. Bagian 4.5 menyatakan bahwa paket yang mencakup penerbangan dapat dikenai biaya perubahan dari maskapai, yang ditampilkan dalam sistem pemesanan. Sumber: Buku panduan bagian 4.2 dan 4.5.' Leon dapat membuka kedua bagian tersebut dan mengonfirmasi jawabannya dalam hitungan detik. Jika buku panduan berubah, jawaban ikut berubah segera setelah versi baru diindeks.
Kapan sebaiknya Anda menggunakan RAG, dan kapan tidak?
Gunakan RAG ketika jawaban harus berasal dari kumpulan dokumen tertentu yang terus berubah dan pengguna perlu melihat sumbernya. Metode ini cocok untuk buku pedoman kebijakan, dokumentasi produk, basis pengetahuan dukungan, dan kumpulan kontrak. Glosarium Anthropic menyebutkan bahwa metode ini sangat berguna untuk informasi terkini, pengetahuan bidang tertentu, dan pencantuman sumber secara eksplisit.
RAG bukan jawaban jika dokumen cukup pendek untuk langsung ditempelkan ke dalam prompt, jika tugas berfokus pada gaya atau format alih-alih fakta, atau jika dokumen sumbernya sendiri tidak dapat diandalkan. RAG juga tidak menggantikan izin akses: jika suatu bagian diambil, model dapat mengulanginya, sehingga kontrol akses harus diterapkan sebelum pengambilan informasi.
Bagaimana proses generasi dengan dukungan pengambilan informasi bisa keliru?
RAG biasanya bermasalah pada tahap pengambilan informasi, bukan pembuatan jawaban: jika bagian yang ditemukan salah, model akan menulis jawaban dengan penuh keyakinan berdasarkan bagian tersebut. Anthropic menyatakan bahwa efektivitas RAG bergantung pada kualitas dan relevansi basis pengetahuan serta informasi yang diambil.
Potongan yang salah atau tidak lengkap
Bagian yang memuat pengecualian berada dalam potongan teks yang berbeda dari aturannya, sehingga jawaban melewatkan pengecualian tersebut.
Versi usang atau duplikat
Buku panduan tahun lalu masih terindeks bersama buku panduan tahun ini, dan yang ditemukan justru versi lama.
Model menyimpang dari teks
Model memadukan teks yang diambil dengan pengetahuan umumnya. Instruksi untuk menjawab hanya berdasarkan sumber, beserta rujukan yang terlihat, memudahkan Anda mengenali hal ini.
Tidak ada jawaban yang tepat
Sistem seharusnya menyatakan bahwa dokumen tidak membahas pertanyaan tersebut, bukan menebak.
Di bagian mana RAG dibahas dalam katalog Tosheo.ai?
Generasi berbantuan pengambilan informasi berada dalam kategori Membangun Aplikasi AI, di kursus membangun aplikasi AI. Pelajaran ini membahas konsep bagi siapa pun yang bekerja dengan asisten AI berbasis dokumen perusahaan. Jalur Kode setelah pendaftaran memandu Anda membangun aplikasi RAG kecil melalui praktik langsung, mulai dari memecah dokumen dan membuat representasi vektor hingga mengambil informasi dan menghasilkan jawaban dengan kutipan sumber, dengan umpan balik berdasarkan panduan penilaian pada setiap langkah.
Sumber dan cakupan
Dokumentasi Anthropic Claude, entri glosarium untuk RAG (diperiksa 19 October 2026) ↗
Dokumentasi Anthropic Claude, fitur sitasi (diperiksa 19 October 2026) ↗