RAG(Retrieval-Augmented Generation, 검색 증강 생성)는 챗GPT 같은 대규모 언어 모델(LLM)이 답을 만들기 전에 외부 문서를 검색해 가져오고, 그 문서를 근거로 답변을 생성하게 하는 기술이다. 모델이 학습 때 외운 지식만으로 답하는 대신 질문마다 새 자료를 읽고 답하는 구조다.
이름이 뜻을 그대로 담고 있다. 검색(Retrieval)으로 생성(Generation)을 보강(Augmented)한다는 말이다.
용어는 2020년 페이스북 AI 연구진(현 메타)이 낸 논문 “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”에서 나왔다. 연구진은 모델 안에 든 지식(파라미터 기억)과 위키백과 벡터 색인 같은 바깥 지식(비파라미터 기억)을 결합하면 더 구체적이고 사실에 맞는 문장이 나온다고 보고했다 (Lewis 외, arXiv 2005.11401).
같은 약자가 다른 뜻으로도 쓰인다. 프로젝트 관리의 RAG는 빨강, 노랑, 초록(Red, Amber, Green) 신호등 상태 표시이고, 패션 브랜드 rag & bone도 검색에 섞인다. 이 문서는 AI의 검색 증강 생성만 다룬다.
LLM이 모르는 것과 낡은 것을 그럴듯하게 답하기 때문이다. 모델은 학습 데이터가 끊긴 시점 이후의 일을 모르고, 사내 문서처럼 학습에 들어간 적 없는 내용도 모른다.
모르는 자리에서도 문장은 매끄럽게 완성된다. 이것이 환각(hallucination)이고, RAG는 그 자리에 실제 문서를 넣어 답의 근거를 만든다.
지식을 새로 넣는 다른 길은 모델을 추가 학습시키는 파인튜닝이다. 마이크로소프트 연구진이 둘을 같은 과제로 비교했더니, 학습에 있던 지식과 완전히 새 지식 양쪽에서 RAG가 비지도 파인튜닝을 일관되게 앞섰다 (Ovadia 외, Fine-Tuning or Retrieval?).
현장도 같은 방향으로 움직였다. 미국 기업 IT 의사결정자 600명 조사에서 프로덕션 LLM 구현의 51%가 RAG를 썼고, 이는 전년 31%에서 오른 수치다. 같은 조사에서 파인튜닝한 모델은 9%에 그쳤다 (Menlo Ventures, 2024: The State of Generative AI in the Enterprise).
부수 효과가 하나 더 있다. 어떤 문서를 읽고 답했는지 알기 때문에 답변에 출처를 붙일 수 있다. AI 검색의 출처 링크가 바로 이 구조에서 나온다.
질문을 받으면 답하기 전에 검색을 한 번 다녀온다. 준비 단계와 실행 단계로 나뉜다.
준비 단계는 한 번 해 두는 일이다.
실행 단계는 질문마다 반복된다.
검색으로 가져온 조각을 몇 개, 어떤 순서로 넣느냐도 결과를 바꾼다. 스탠퍼드 연구진은 관련 정보가 입력의 앞이나 끝에 있을 때 성능이 가장 높고 긴 입력의 가운데에 있으면 뚜렷하게 떨어진다고 보고했다 (Liu 외, Lost in the Middle).
RAG는 모델 바깥에 지식을 두고 매번 읽게 하고, 파인튜닝은 모델 안에 지식을 새로 새긴다.
| 구분 | RAG | 파인튜닝 |
|---|---|---|
| 지식이 있는 곳 | 외부 문서 저장소 | 모델 가중치 |
| 갱신 방법 | 문서를 바꾸면 끝 | 다시 학습 |
| 출처 표시 | 가능 | 불가 |
| 잘하는 것 | 최신 사실, 사내 문서 | 말투, 형식, 특정 과제 수행 방식 |
| 비용 구조 | 검색 인프라와 매 질의 비용 | 학습 비용이 앞에 몰림 |
둘은 대체 관계가 아니다. 사실은 RAG로 가져오고 답변 스타일은 파인튜닝으로 맞추는 조합이 가능하다.
사실 주입에 한해서는 비교 연구가 RAG 손을 들어 줬다. 파인튜닝만으로는 모델이 새 사실을 잘 익히지 못했고, 같은 사실을 여러 표현으로 반복해 학습시켜야 나아졌다 (Ovadia 외, Fine-Tuning or Retrieval?).
줄어들지만 사라지지 않는다. 검색이 엉뚱한 문서를 가져오거나 모델이 가져온 문서를 잘못 읽는 자리에서 환각은 다시 생긴다.
스탠퍼드 연구진이 RAG 기반 법률 AI 도구들을 검사했더니, 벤더가 환각을 없앴다고 홍보한 제품들이 질의의 17%에서 33%까지 틀린 답을 내놨다 (Magesh 외, Hallucination-Free?).
실무에서 RAG 품질을 갉아먹는 지점은 대체로 검색 쪽이다.
그래서 RAG 개선은 모델 교체보다 청킹 방식, 검색 방식, 재정렬(reranking) 조정에서 나오는 일이 많다.
구조는 같다. 챗GPT 검색, 퍼플렉시티, 구글 AI 모드는 모두 질문을 받으면 웹을 검색해 문서를 가져온 뒤 그것을 근거로 답을 쓰고 출처를 단다.
구글은 AI 모드의 방식을 질문을 여러 하위 검색으로 쪼개 동시에 돌린 뒤 결과를 합치는 쿼리 팬아웃(query fan-out)이라고 설명한다 (Google, AI Mode in Search). 검색 대상이 사내 문서에서 웹 전체로 바뀐 RAG다.
구글 클라우드는 이 관계를 용어로도 정리해 뒀다. 모델 출력을 확인 가능한 정보 소스에 연결하는 일을 그라운딩이라 부르고, RAG를 그 구현 방법 중 하나로 둔다 (Google Cloud, 그라운딩 개요).
콘텐츠를 만드는 쪽에서 이 사실이 중요한 이유가 있다. AI 검색에 우리 글이 나오려면 모델이 우리를 기억해야 하는 게 아니라, 검색 단계에서 우리 조각이 뽑히고 생성 단계에서 인용돼야 한다.
그래서 AI 검색 노출 작업은 RAG의 각 단계에 대응한다. 조각 단위로 뜯어도 뜻이 통하는 문단, 질문과 같은 표현을 쓴 헤딩, 출처로 쓰기 좋은 수치가 검색과 인용 양쪽에서 유리하다. 이 최적화 전체를 GEO라 부르고, 인용이 붙는 구조는 LLM 인용 문서에서 다룬다.
LLM과 RAG의 차이점은 무엇인가요?
층위가 다르다. LLM은 문장을 만드는 모델 자체이고, RAG는 그 모델에 검색 결과를 먹여 답하게 하는 시스템 구조다. RAG 안에 LLM이 들어 있다.
RAG가 뭐야? 한 줄로 말하면?
AI가 답하기 전에 관련 문서를 먼저 찾아 읽고, 그 문서를 근거로 답을 쓰게 하는 방식이다.
파인튜닝과 RAG 중 무엇을 먼저 해야 하나요?
답이 최신 사실이나 사내 문서에 달려 있으면 RAG가 먼저다. 지식 주입 비교 연구에서 RAG가 파인튜닝을 일관되게 앞섰고, 기업 현장도 RAG 51% 대 파인튜닝 9%로 기울어 있다 (Menlo Ventures, 2024: The State of Generative AI in the Enterprise). 말투나 출력 형식을 바꾸는 게 목적이면 파인튜닝이 맞는다.
서치폴라리스가 AI 검색 가시성을 진단하고 GEO 실행까지 대행합니다.