핵심 비유
RAG는 AI에게 오픈북 시험을 허용하는 것과 같다. 기존 AI는 배운 내용만 기억에 의존해 답하는 클로즈드북 시험이라면, RAG를 쓰는 AI는 시험 중에 신뢰할 수 있는 참고서를 펼쳐볼 수 있다. 참고서가 있으니 기억 오류로 틀린 답을 쓸 가능성이 줄어들고, 어느 쪽 참고서를 보고 썼는지 출처도 밝힐 수 있다.
핵심 포인트
- AI는 훈련 데이터만으로 답하기 때문에 최신 정보를 모르거나 존재하지 않는 내용을 그럴듯하게 지어내는 '환각(hallucination)' 문제가 있다.
- RAG는 질문이 들어오면 외부 데이터베이스나 문서에서 관련 정보를 먼저 검색한 뒤, 그 정보를 바탕으로 답변을 만드는 '검색 → 증강 → 생성' 3단계 방식이다.
- RAG를 쓰면 AI가 답변의 출처를 제시할 수 있어서 사람이 직접 맞는지 확인할 수 있다. 이것이 '닫힌 AI'와 '오픈북 AI'의 차이다.
- RAG는 AI 전체를 다시 학습시키지 않아도 새 문서만 추가하면 최신 정보를 반영할 수 있어 유지 비용이 낮다.
- 의료 진단 보조, 법률 판례 검색, 학교 교과서 기반 튜터 챗봇 등 정확성이 중요한 분야에서 특히 RAG가 많이 활용된다.
교사 팁
수업 도입 5분을 '오픈북 시험 vs 클로즈드북 시험' 토론으로 시작해보자. "오픈북 시험이 더 공정한가, 아니면 더 쉽게 부정행위가 가능한가?"를 짝 토론한 후, "AI도 오픈북으로 답할 수 있게 만든 것이 RAG"라고 연결하면 개념 동기가 자연스럽게 생긴다. 이후 ChatGPT에 최신 뉴스를 물어보고 틀린 답변을 직접 확인하는 실험을 추가하면 환각 문제가 체감된다.