RAG는 어떤 문제를 해결합니까?
RAG는 AI 모델이 조직의 문서를 모르거나 오래된 정보만 알고 있는 문제를 해결합니다. 모델을 다시 학습시키는 대신, 답변하는 시점에 필요한 구절을 제공합니다.
직원 50명의 가상 여행사 타이드워터 트래블을 생각해 봅니다. 예약 팀은 90페이지짜리 약관 및 업무 절차 안내서에 관해 같은 질문을 반복합니다. 팀장 레온은 범용 챗봇에 물어봤습니다. '출발 10일 전에 고객이 대표 탑승객 이름을 변경할 수 있나요? 수수료가 있나요?' 챗봇은 항공사 규정과 타이드워터가 부과하지 않는 수수료에 관해 일반적인 답변을 확신에 차서 제시했습니다. 실제 답은 안내서 4.2절에 있지만, 챗봇은 그 안내서를 본 적이 없습니다.
검색 증강 생성은 어떻게 작동합니까?
검색 증강 생성은 세 단계로 작동합니다. 질문과 가장 관련 있는 구절을 검색하고, 이를 프롬프트에 추가한 다음, 모델이 해당 구절을 바탕으로 답변을 생성하게 합니다. Anthropic의 용어집도 같은 개념을 설명합니다. 질문이 들어오면 지식 베이스에서 관련 정보를 검색해 원래 질문과 함께 모델에 전달합니다.
이 용어는 패트릭 루이스와 동료들이 발표한 2020년 연구 논문에서 나왔습니다. 이 연구는 언어 모델에 검색 가능한 문서 색인을 결합했으며, 모델만 사용했을 때보다 답변이 더 구체적이고 사실에 부합한다는 결과를 얻었습니다.
1. 문서 준비하기
핸드북을 한 절 또는 몇 개의 문단 단위로 나눕니다. 이렇게 하면 검색 시 책 전체가 아니라 관련 내용이 집중된 구절을 반환할 수 있습니다.
2. 의미를 기준으로 색인화하기
각 조각은 그 의미를 나타내는 숫자 목록인 임베딩으로 변환되어 벡터 데이터베이스에 저장됩니다. AWS는 이 단계를 데이터를 질문과 매칭할 수 있도록 수치 표현으로 변환하는 과정이라고 설명합니다.
3. 관련 정보를 검색합니다
질문도 같은 방식으로 변환한 뒤 색인과 대조해 가장 가까운 청크를 찾습니다. 많은 시스템은 일반적인 키워드 검색도 함께 사용합니다.
4. 프롬프트에 정보를 보강합니다
가장 관련성이 높은 텍스트 조각들을 프롬프트에 넣고, '이 발췌문만 근거로 답하고 해당 절을 인용하세요'와 같은 지시를 함께 제공합니다.
5. 생성하기
모델은 제공된 텍스트를 바탕으로 답변을 작성하며, 사용한 구절을 직접 인용하거나 출처로 표시하는 것이 바람직합니다.
RAG를 사용한 답변과 사용하지 않은 답변은 어떻게 다릅니까?
검색 증강 생성(RAG)을 사용하지 않는 경우: '대부분의 여행사는 항공사 정책에 따라 1인당 약 50~100의 수수료를 받고 이름 변경을 허용합니다.' 도움이 되는 말처럼 들리지만, 이는 타이드워터의 정책이 아니며 누구도 이 정보의 출처를 확인할 수 없습니다.
검색 증강 생성(RAG)을 사용하는 경우: 시스템이 안내서의 4.2절과 4.5절을 검색해 가져오면 모델은 이렇게 답변합니다. '예. 4.2절에 따르면 출발 7일 전까지 대표 승객의 이름을 무료로 변경할 수 있습니다. 4.5절에 따르면 항공편이 포함된 패키지에는 항공사 자체 변경 수수료가 부과될 수 있으며, 이 수수료는 예약 시스템에 표시됩니다. 출처: 안내서 4.2절 및 4.5절.' 레온은 두 절을 열어 몇 초 만에 답변을 확인할 수 있습니다. 안내서가 바뀌면 새 버전이 색인에 반영되는 즉시 답변도 바뀝니다.
RAG는 언제 사용하고 언제 사용하지 않아야 합니까?
특정 문서 모음이 계속 바뀌고 답변이 반드시 해당 문서에 근거해야 하며 사용자가 출처를 확인할 수 있어야 한다면 RAG를 사용합니다. 정책 안내서, 제품 설명서, 지원용 지식 자료, 계약서 자료실에 적합합니다. Anthropic 용어집에서는 최신 정보, 특정 분야의 지식, 명시적인 출처 인용이 필요한 경우 특히 유용하다고 설명합니다.
문서가 프롬프트에 바로 붙여 넣을 수 있을 만큼 짧거나, 작업의 핵심이 사실이 아니라 문체나 형식이거나, 원본 문서 자체를 신뢰할 수 없다면 RAG는 적합한 해법이 아닙니다. 또한 RAG가 권한 관리를 대신하지는 않습니다. 검색된 구절은 모델이 그대로 출력할 수 있으므로 검색 전에 접근 제어를 적용해야 합니다.
검색 증강 생성에서는 어떤 문제가 발생합니까?
RAG는 대개 생성보다 검색 단계에서 문제가 발생합니다. 잘못된 구절을 찾으면 모델은 이를 바탕으로 확신에 찬 답변을 작성합니다. Anthropic은 RAG의 효과가 지식 기반과 검색된 정보의 품질 및 관련성에 달려 있다고 설명합니다.
잘못되거나 불완전한 청크
예외가 담긴 구절이 규칙과 다른 청크에 있어 답변에서 누락됩니다.
오래되었거나 중복된 버전
작년 안내서가 올해 안내서와 함께 여전히 색인에 남아 있어 이전 안내서가 검색됩니다.
모델이 원문에서 벗어남
모델은 검색된 텍스트에 일반 지식을 섞습니다. 제공된 출처만으로 답변하도록 지시하고 인용 출처를 표시하면, 이런 혼합을 더 쉽게 발견할 수 있습니다.
적절한 답변이 없음
시스템은 추측하는 대신 문서에 해당 질문을 다루는 내용이 없다고 알려야 합니다.
Tosheo.ai 교육 과정에서 RAG는 어디에 해당합니까?
검색 증강 생성은 AI 앱 만들기 과정의 AI 앱 구축 카테고리에 속합니다. 이 수업은 회사 문서를 기반으로 만든 AI 어시스턴트를 사용하는 사람을 위한 개념 수업입니다. 가입 후 이용할 수 있는 Code 트랙에서는 문서 분할과 임베딩 생성부터 검색과 출처가 표시된 답변까지 소규모 RAG 앱을 직접 만들며, 단계마다 채점 기준표에 따른 피드백을 받습니다.
출처와 범위
Lewis 외, 지식 집약적 NLP 작업을 위한 검색 증강 생성, arXiv 2020 (확인일: 19 October 2026) ↗
Anthropic Claude 문서, 용어집의 RAG 항목 (확인일: 19 October 2026) ↗
AWS, 검색 증강 생성, 임베딩 및 벡터 데이터베이스란 무엇인가 (확인일: 19 October 2026) ↗