1차시 모듈
AI 이론 · C 기초 원리 · 모듈 C6

AI는 어떻게 갑자기
이렇게 똑똑해졌을까?

어텐션 = 도서관 사서 셀프 어텐션 Q · K · V 병렬 처리 2017 논문 한 편
중학생 + 강사 심화
사용법 — 각 장은 '학생용 핵심 + 강사 심화'로 층을 나눴습니다. 수준·시간에 맞게 골라 설명하세요.
EXECUTIVE SUMMARY한눈에 보기

트랜스포머의 비밀은 '중요한 단어에 집중하는 어텐션'이다

01 · 어텐션

지금 중요한 단어에 더 '집중'한다

AI는 모든 단어를 똑같이 보지 않는다. 관련 깊은 단어에 가중치를 더 준다.

02 · 셀프

같은 문장 안 단어끼리 서로 참조

'나는 은행에 갔다'에서 '은행'이 금융기관인지 강변인지 주변 단어로 판별.

03 · Q·K·V

질문 · 열쇠 · 내용의 세 역할

도서관에서 검색어(Q)로 책 제목(K)을 찾아 내용(V)을 꺼내는 것과 같다.

04 · 병렬

문장 전체를 한꺼번에 처리 → 빠르다

한 단어씩 읽지 않아 빠르고 문맥에 강하다. 2017 논문 한 편이 AI 전 분야를 바꿨다.

출처·참고 · 카카오클라우드 · 3Blue1Brown · Jay Alammar
THE LIBRARIAN도표 1. Query · Key · Value

어텐션은 '도서관 사서' — Q로 묻고, K로 찾아, V를 꺼낸다

Query · 질문

"공룡 책 찾아줘"

지금 단어가 던지는 질문

검색어를 던진다
→
Key · 열쇠

모든 책 '제목'

다른 단어들의 식별표

제목과 맞춰본다
→
Value · 내용

관련 책의 '내용'

가장 관련 높은 정보를 꺼냄

내용을 가져온다
쉽게 말하면
문장 속 각 단어가 동시에 '사서'이자 '책'이 되어 서로를 참조하는 것 = 셀프 어텐션.
핵심 시사점 어텐션 = '관련도 점수를 매겨, 중요한 정보를 더 많이 가져오기'.
카카오클라우드 · Jay Alammar 'Illustrated Transformer'
SELF-ATTENTION도표 2. 문맥으로 의미 판별

'나는 은행에 갔다' — 어텐션이 단어의 진짜 뜻을 가려낸다

같은 단어, 다른 뜻
  • "나는 은행에 가서 돈을 찾았다" → 금융기관
  • "강 은행(둑)에 앉아 쉬었다" → 강변
  • '은행'만 보면 어느 뜻인지 알 수 없다
  • → 주변 단어(돈 / 강)를 참고해 판별
어떻게 하나 · 셀프 어텐션
  • 같은 문장 안 단어끼리 관련도를 계산한다
  • '은행'이 '돈'과 관련 높으면 → 금융기관으로
  • 각 단어가 문장 전체를 둘러보며 의미를 정한다
  • 사람이 문맥으로 뜻을 잡는 것과 같다
핵심 시사점 어텐션 덕분에 AI가 '단어'가 아니라 '문맥 속 의미'를 읽는다.
카카오클라우드 '트랜스포머가 뭔데?'
ALL AT ONCE도표 3. 병렬 처리와 2017의 파급

문장 전체를 '한꺼번에' 본다 — 그래서 빠르고 똑똑하다

예전 vs 트랜스포머
  • 예전: 단어를 한 개씩 순서대로 읽음 → 느림
  • 트랜스포머: 문장 전체를 한꺼번에 처리
  • → 병렬 계산이 가능해 훨씬 빠르다
  • → 멀리 떨어진 단어 관계도 잘 잡는다
2017 · 논문 한 편의 파급
  • 'Attention Is All You Need'(2017) 한 편
  • 번역 · 의료 · 코드 생성 등 전 분야를 바꿈
  • 오늘날 ChatGPT · Claude · Gemini가 모두 이 위에
  • GPT의 'T'가 바로 Transformer
핵심 시사점 '한꺼번에 보기 + 중요한 것에 집중' — 이 두 가지가 AI 도약의 엔진이었다.
Attention Is All You Need(나무위키) · 3Blue1Brown
TRY IT도표 4. 형광펜 게임 + 시각화 영상

'형광펜 게임'으로 어텐션을 몸으로 해본다 (수업 활동)

활동 · 형광펜 게임
  • 짧은 문단(3~4문장)을 학생에게 준다
  • 특정 단어(예: '그것')가 가리키는 대상을 찾기
  • 형광펜으로 두 단어를 연결하게 한다
  • "방금 한 것, AI도 똑같이 합니다" → 어텐션!
시각화로 확인
  • 3Blue1Brown 'Attention' 영상 도입 2분 시청
  • Q·K·V가 상호작용하는 모습을 애니메이션으로
  • 수식 없이 '집중의 분배'라는 직관만 챙기기
  • 심화 학생은 Jay Alammar 그림 해설로 연결
핵심 시사점 '관련 단어 찾아 연결'을 손으로 해보면 어텐션 개념이 단번에 내재화된다.
교사 팁(C6) · 3Blue1Brown Ch.6
WRAP UP한 문장 정리

한 문장으로: 트랜스포머는 '중요한 단어에 집중'해 문맥을 읽는 구조다

어텐션

중요한 단어에 집중(가중치)

셀프어텐션

문장 안 단어끼리 서로 참조

Q·K·V

질문·열쇠·내용 (도서관 사서)

병렬

문장 전체 한꺼번에 → 빠름

핵심 시사점
트랜스포머는 C5(LLM)·C7(챗봇)·B5(역사)에서 만난 '대화형 AI'의 공통 뼈대다.
AI 이론 수업 · C 기초 원리 · C6 트랜스포머
APPENDIX강사 심화

용어집 · 더 알아보기 — 강사가 깊이 들어갈 때 참고

■ 핵심 용어 한 줄 정의
트랜스포머
어텐션 기반 신경망 구조(2017)
어텐션
중요한 단어에 집중하는 계산
셀프 어텐션
문장 안 단어끼리 서로 참조
Query
지금 단어가 던지는 '질문'
Key
다른 단어들의 '식별표'
Value
꺼내 오는 '내용'
병렬 처리
여러 단어를 동시에 계산
멀티헤드
여러 관점으로 동시에 보기
Attention Is All You Need
트랜스포머 원논문(2017)
■ 더 알아보기 (상세는 9쪽~)
1
트랜스포머가 뭔데? · 카카오클라우드
한국어 예문 입문 (한국어)
2
트랜스포머 쉽게 이해 · 한빛+
캐릭터 대화 서사 (한국어)
3
Attention 시각화 · 3Blue1Brown
Q·K·V 애니메이션 (영어/자막)
4
The Illustrated Transformer · Jay Alammar
세계적 시각 해설 (영어)
5
Attention Is All You Need · 나무위키
원논문 의의 (한국어)
AI 이론 수업 · C6 트랜스포머 · 강의 패키지
APPENDIX · 강사 자기학습 자료 1/5강사 심화

트랜스포머가 뭔데? — 카카오클라우드

한국어 · 블로그
■ 무엇을 다루나
  • '배경 지식 없어도 이해'를 목표로 풀어 쓴 한국어 입문 글.
  • '나는 은행에 갔다'처럼 친숙한 예문으로 문맥 파악 설명.
■ 자습 포인트
  • 인코더·디코더·셀프 어텐션을 단계적으로 따라가기 좋다.
AI 이론 수업 · C6 트랜스포머 · 강사 자기학습 자료
APPENDIX · 강사 자기학습 자료 2/5강사 심화

트랜스포머 모델 쉽게 이해하기 — 한빛+

한국어 · 아티클
■ 무엇을 다루나
  • 캐릭터 대화로 RNN 한계 → 어텐션 → 트랜스포머 순서로 진행.
  • 수식 없이 서사형이라 중학생도 흐름을 따라간다.
■ 자습 포인트
  • 이야기로 개념을 잡고 싶을 때 — BERT·GPT까지 연결.
AI 이론 수업 · C6 트랜스포머 · 강사 자기학습 자료
APPENDIX · 강사 자기학습 자료 3/5강사 심화

Attention in Transformers — 3Blue1Brown

영어(자막) · 영상
■ 무엇인가
  • 수학 애니메이션으로 어텐션을 시각화한 딥러닝 6화.
  • Q·K·V 벡터가 상호작용하는 모습을 움직이는 그림으로.
■ 수업 연결
  • 도입 2분만 잘라 보여줘도 직관이 잡힌다.
AI 이론 수업 · C6 트랜스포머 · 강사 자기학습 자료
APPENDIX · 강사 자기학습 자료 4/5강사 심화

The Illustrated Transformer — Jay Alammar

영어 · 시각 해설
■ 무엇을 다루나
  • 세계에서 가장 많이 인용되는 트랜스포머 시각화 포스트.
  • 단어 벡터가 어텐션 레이어를 거치는 과정을 그림으로.
■ 자습 포인트
  • 내부 구조를 그림으로 깊이 볼 때 — 한국어 번역본도 있음.
AI 이론 수업 · C6 트랜스포머 · 강사 자기학습 자료
APPENDIX · 강사 자기학습 자료 5/5강사 심화

Attention Is All You Need — 나무위키

한국어 · 백과
■ 무엇을 다루나
  • 2017 원논문의 배경·의의·구조를 한국어로 요약.
  • '이 논문이 왜 유명한가'를 빠르게 파악.
■ 자습 포인트
  • 수업 전 논문 맥락 정리용.
AI 이론 수업 · C6 트랜스포머 · 강사 자기학습 자료