개념

파인튜닝

이미 학습한 모델을 특정 목적의 데이터로 추가 훈련하는 과정.

이미 학습한 모델을 특정 목적 데이터로 추가 훈련하는 파인튜닝 사전학습 모델 + 특정 데이터 파인튜닝 특화 모델 예: 의료 상담
파인튜닝 개념도

핵심 포인트

  • 이미 사전학습된 모델을 특정 목적의 데이터로 추가 훈련하는 과정이다.
  • 처음부터 학습하는 것보다 적은 데이터·비용으로 원하는 분야에 특화시킨다.
  • 말투·형식·전문 지식을 모델에 "몸에 배게" 만들 때 쓴다.

예시

일반 LLM을 법률 문서 수천 건으로 추가 훈련하면, 법률 용어와 형식에 맞춰 답하는 모델이 된다.

한 걸음 더

RAG가 "참고 자료를 그때그때 넣어 주는 것"이라면, 파인튜닝은 "능력 자체를 바꿔 두는 것"이다 — 목적에 따라 골라 쓴다.

관련 개념

역링크