핵심 비유
AI의 사전학습과 파인튜닝은 '학교 교육'과 '전공 선택'에 비유할 수 있다. 초·중·고등학교에서 국어·수학·영어·사회 등 다양한 과목을 배우는 것이 사전학습이다. 언어가 어떻게 쓰이는지, 세상이 어떻게 돌아가는지 넓게 익히는 단계다. 그런 다음 대학에 가서 의학·법학·컴퓨터공학 등 한 가지 전공을 깊이 파고드는 것이 파인튜닝이다. 학교에서 쌓은 기초가 없으면 전공 공부도 못 하듯이, 사전학습 없이는 파인튜닝도 불가능하다.
핵심 포인트
- 사전학습(Pre-training)은 AI가 인터넷·책·뉴스 등 수천억 개의 문장을 읽으며 '언어가 어떻게 작동하는지' 기초를 배우는 단계다. 아직 특정 분야 전문가가 되는 게 아니라 기본 상식과 언어 감각을 쌓는 것이다.
- 파인튜닝(Fine-tuning)은 이미 기초를 쌓은 AI에게 특정 분야의 자료만 추가로 학습시켜 전문가로 만드는 단계다. 예를 들어 의사용 AI·법률 AI·번역 AI를 각각 만들 때 같은 기반 모델을 파인튜닝해서 만든다.
- 사전학습은 엄청난 컴퓨팅 자원과 수개월의 시간이 필요한 반면, 파인튜닝은 훨씬 적은 데이터와 짧은 시간(몇 시간~며칠)으로 완료할 수 있다. 그래서 대부분의 기업이 사전학습은 건너뛰고 파인튜닝 단계부터 시작한다.
- 우리가 매일 쓰는 ChatGPT·Gemini·Clova X 같은 AI 챗봇은 '사전학습으로 언어를 배운 뒤, 파인튜닝으로 대화를 잘 하도록 조정한' 결과물이다. 같은 기반 모델에서 목적에 맞게 여러 갈래로 파인튜닝이 가능하다.
- 파인튜닝은 기초부터 다시 만드는 게 아니라 이미 배운 것 위에 쌓는 방식이라 효율적이다. 이 원리 덕분에 소규모 팀도 적은 비용으로 전문 AI를 만들 수 있게 됐다.
교사 팁
수업 도입에서 학생들에게 "지금 여러분이 학교에서 모든 과목을 배우는 이유가 뭘까요?"라고 질문한 뒤, '기초(사전학습) → 전공(파인튜닝)' 흐름을 자연스럽게 연결한다. 이어서 실제 ChatGPT 화면을 보여주며 "이 AI가 의사처럼 대답하게 하려면 어떻게 해야 할까요?"라고 활동 질문을 던지면, 학생들이 파인튜닝의 필요성을 스스로 추론하게 된다. 마무리에는 "여러분이 AI 회사 대표라면 어떤 분야 전문가 AI를 파인튜닝해서 만들고 싶나요?"라는 창작 발문으로 참여를 높일 수 있다.