핵심 비유
도서관 사서 비유 — 어텐션은 '도서관 사서'다. 내가 "공룡에 대한 책 찾아줘(Query)"라고 하면, 사서는 모든 책 제목(Key)과 비교해 관련도 점수를 매기고, 가장 점수 높은 책의 내용(Value)을 우선 가져다준다. 문장 안의 각 단어가 동시에 사서이자 책이 되어 서로를 참조하는 것이 셀프 어텐션이다.
핵심 포인트
- AI가 긴 문장을 이해할 때 모든 단어를 똑같이 보지 않는다. '어텐션'은 지금 중요한 단어에 더 많은 집중을 할당하는 점수판이다.
- 셀프 어텐션(Self-Attention)은 같은 문장 안에서 단어끼리 서로 얼마나 관련 있는지 계산한다. '나는 은행에 갔다'에서 '은행'이 금융기관인지 강변인지를 주변 단어를 참고해 판별한다.
- Query(질문)·Key(열쇠)·Value(내용) 세 역할로 나뉜다. 마치 도서관에서 '검색어(Query)'로 '책 제목(Key)'을 찾아 '책 내용(Value)'을 꺼내는 것과 같다.
- 트랜스포머는 단어를 순서대로 하나씩 읽는 대신 문장 전체를 한꺼번에 처리하기 때문에 병렬 계산이 가능해 훨씬 빠르다. 이것이 GPT·Gemini 등 현재 AI의 핵심 원리다.
- 2017년 'Attention Is All You Need' 논문 한 편이 번역·의료·코드 생성 등 AI 전 분야를 바꿨다. 오늘날 ChatGPT·Claude 모두 이 아이디어 위에 서 있다.
교사 팁
도입 활동으로 '형광펜 게임'을 써 보세요. 학생에게 짧은 문단(3~4문장)을 주고, 특정 단어(예: '그것')가 가리키는 대상을 찾아 형광펜으로 연결하게 합니다. 학생들이 자연스럽게 주변 단어를 훑으며 연관성을 찾는 과정이 곧 어텐션 메커니즘입니다. "방금 여러분이 한 것, AI도 똑같이 합니다"라고 연결하면 개념이 바로 내재화됩니다. 이후 3Blue1Brown 영상의 도입 2분을 보여주면 시각적으로 확인이 됩니다.