핵심 비유
트랜스포머의 '어텐션'을 독서실 공부 모둠으로 비유할 수 있다. 예전 AI는 책을 처음부터 한 줄씩 읽는 학생처럼, 앞에서 읽은 내용을 잊어버리며 뒤로 나아갔다. 트랜스포머는 마치 모둠 전원이 책의 모든 페이지를 동시에 펼쳐 놓고 "이 단어는 저 단어랑 관계있어!"라고 서로 손가락으로 가리키며 중요한 연결을 찾는 것과 같다. "나는 사과를 먹었다"에서 '먹었다'가 '나'와 '사과' 모두에 동시에 주목(어텐션)할 수 있어, 문장 전체 의미를 한번에 파악한다.
핵심 포인트
- 2017년 구글 연구자 8명이 '어텐션이 전부다(Attention Is All You Need)' 논문을 발표하며 트랜스포머 구조를 세상에 내놓았다. GPT의 T가 바로 이 Transformer(트랜스포머)의 약자다.
- 트랜스포머의 핵심 아이디어는 '어텐션(Attention)' — 문장 속 모든 단어가 서로 얼마나 관련 있는지 동시에 살펴보는 방식이다. 예전 AI는 단어를 한 개씩 순서대로 읽었지만, 트랜스포머는 문장 전체를 한눈에 보며 중요한 관계를 잡아낸다.
- OpenAI는 2018년 GPT-1(파라미터 1.2억 개)을 시작으로 GPT-2(1.5억), GPT-3(1,750억)을 차례로 발표했다. 파라미터 수는 AI의 '기억력·사고력 단위' — 숫자가 클수록 더 복잡한 문장과 맥락을 이해한다.
- 2022년 11월 30일 조용히 공개된 ChatGPT는 5일 만에 100만 명, 두 달 만에 월 1억 명을 돌파했다. 마케팅 없이 이런 속도를 기록한 서비스는 역사상 없었다.
- ChatGPT는 단순히 다음 단어를 예측하는 것에서 멈추지 않고, 사람이 직접 답변의 좋고 나쁨을 평가해 AI를 다시 훈련시키는 RLHF(인간 피드백 강화학습) 방식으로 '대화에 친절한 AI'가 됐다. 기술은 새것이 아니었지만, 사람 피드백을 더한 것이 핵심이었다.
교사 팁
수업 도입에서 학생들에게 "ChatGPT의 C, h, a, t, G, P, T — 각 글자가 무슨 뜻인지 아는 사람?"을 질문으로 시작하면 효과적이다. Chat(대화) + G(생성형, Generative) + P(사전학습, Pre-trained) + T(트랜스포머, Transformer) 풀이를 함께 하면, 수업 전체 키워드(생성·학습·구조)가 제목 한 줄에 담겨 있다는 사실이 자연스럽게 드러난다. 이후 "2022년 11월 30일부터 두 달 만에 월 1억 명" 숫자 카드를 보여주며 '왜 갑자기?'라는 질문을 던지면, 트랜스포머→GPT→RLHF 흐름을 탐구하는 동기가 자연스럽게 생긴다.