사전학습 vs 파인튜닝

핵심 포인트

• 사전학습(Pre-training)은 AI가 인터넷·책·뉴스 등 수천억 개의 문장을 읽으며 '언어가 어떻게 작동하는지' 기초를 배우는 단계다. 아직 특정 분야 전문가가 되는 게 아니라 기본 상식과 언어 감각을 쌓는 것이다.
• 파인튜닝(Fine-tuning)은 이미 기초를 쌓은 AI에게 특정 분야의 자료만 추가로 학습시켜 전문가로 만드는 단계다. 예를 들어 의사용 AI·법률 AI·번역 AI를 각각 만들 때 같은 기반 모델을 파인튜닝해서 만든다.
• 사전학습은 엄청난 컴퓨팅 자원과 수개월의 시간이 필요한 반면, 파인튜닝은 훨씬 적은 데이터와 짧은 시간(몇 시간~며칠)으로 완료할 수 있다. 그래서 대부분의 기업이 사전학습은 건너뛰고 파인튜닝 단계부터 시작한다.
• 우리가 매일 쓰는 ChatGPT·Gemini·Clova X 같은 AI 챗봇은 '사전학습으로 언어를 배운 뒤, 파인튜닝으로 대화를 잘 하도록 조정한' 결과물이다. 같은 기반 모델에서 목적에 맞게 여러 갈래로 파인튜닝이 가능하다.
• 파인튜닝은 기초부터 다시 만드는 게 아니라 이미 배운 것 위에 쌓는 방식이라 효율적이다. 이 원리 덕분에 소규모 팀도 적은 비용으로 전문 AI를 만들 수 있게 됐다.

관련 개념

교사 팁

수업 도입에서 학생들에게 "지금 여러분이 학교에서 모든 과목을 배우는 이유가 뭘까요?"라고 질문한 뒤, '기초(사전학습) → 전공(파인튜닝)' 흐름을 자연스럽게 연결한다. 이어서 실제 ChatGPT 화면을 보여주며 "이 AI가 의사처럼 대답하게 하려면 어떻게 해야 할까요?"라고 활동 질문을 던지면, 학생들이 파인튜닝의 필요성을 스스로 추론하게 된다. 마무리에는 "여러분이 AI 회사 대표라면 어떤 분야 전문가 AI를 파인튜닝해서 만들고 싶나요?"라는 창작 발문으로 참여를 높일 수 있다.

참고 자료

• AI 학습, 사전학습, 파인튜닝의 차이ko / article

  한국어로 사전학습과 파인튜닝의 개념 차이를 쉽게 설명한 브런치 아티클. 대학 교육과 대학원 전공 비유를 사용해 중학생도 이해하기 쉬운 구조.

• 파인튜닝(Fine-tuning)이란? - LLM 구축 방법ko / article

  파인튜닝의 정의와 사전학습과의 차이를 한국어로 설명한 appen 블로그. 학교 교육(사전학습) → 전공 선택(파인튜닝) 비유가 명확하게 제시됨.

• Pre-Training vs Fine-Tuning: What Are the Differences?en / article

  사전학습과 파인튜닝을 스포츠 훈련 비유로 설명한 영어 블로그. '여러 스포츠로 기초 운동능력 쌓기(사전학습) vs 한 종목만 집중 훈련(파인튜닝)' 비유가 청소년 눈높이에 적합.

• Pre-training vs Fine-tuning vs In-Context Learning of LLMsen / article

  세 가지 LLM 학습 방식을 비교 설명한 영어 글. 데이터 규모·시간·목적 차이를 표와 함께 정리. 심화 학습용으로 교사 배경 지식 보강에 유용.