"AI가 이해해서 말한다"는 인상을 검증한다. "챗봇은 어떻게 사람처럼 말하게 됐나"를 한 질문으로 따라가, 그 정체가 '다음 단어 맞히기'의 거대화임을 논증한다.
"AI가 이해해서 말한다"는 인상을 6단계로 검증한다. 윗줄은 "대화의 정체가 무엇인가"를 논증하고, 아랫줄은 그 정체가 연 대중화와 잘 쓰는 법으로 잇는다. A1에서 세운 '분별의 눈'을 여기서 회수한다.
챗봇이 자연스럽게 대화하면 우리는 본능적으로 "이 안에 이해하는 누군가가 있다"고 느낀다. 하지만 사람은 말이 통하면 마음이 있다고 착각하는 경향이 있다. 이 착각은 새로운 게 아니다 — 60년 전 아주 단순한 프로그램에도 사람들은 똑같이 빠져들었다.
1966년 엘리자(ELIZA)는 사용자의 말을 되받아 질문하는 단순 규칙 챗봇이었다. 그런데도 사람들은 거기에 속마음을 털어놓았다. 만든 사람조차 놀랐다 — 사람은 기계에 이해를 투영하기 쉽다는 증거다.
놀랍게도, 거대 언어모델이 배우는 일은 거의 한 가지다 — 앞 문장을 보고 다음에 올 단어를 맞히기. "하늘은 ___"에서 '파랗다'를 예측하는 빈칸 채우기를, 인터넷 규모의 글로 수천억 번 반복한다. '대화하라'고 가르친 적이 없다. 대화·작문·번역은 전부 이 단순 목표를 거대하게 키우자 따라 나온 부산물이다.
"오늘 날씨가 너무"
다음 단어 후보의 확률
"더워" (높은 확률)
한 단어씩 이어 붙여 문장 완성
왜 단순한 목표가 똑똑함으로 이어질까? 다음 단어를 정말 잘 맞히려면, 문법·상식·문맥·논리를 어느 정도 '알아야' 하기 때문이다. "물을 끓이면 ___"의 답을 맞히려면 약간의 세상 지식이 필요하다. 그래서 모델·데이터·연산을 거대하게 키우자, 가르치지 않은 능력들이 창발(emergence)했다 — 이게 거대 언어모델(LLM)이다. 이 모든 걸 떠받친 구조가 2017년 트랜스포머다.
"문장에서 어떤 단어에 주목할지(어텐션)"를 학습하는 구조. 멀리 떨어진 단어의 관계까지 효율적으로 잡아, 거대 규모 학습을 가능케 했다(자세히는 C6).
챗봇이 존재하지 않는 책·판례·논문을 자신 있게 지어낼 때가 있다. 이를 환각(hallucination)이라 한다. 이건 단순한 버그가 아니라 정체의 폭로다 — 모델은 '사실'을 확인하는 게 아니라 '그럴듯한 다음 말'을 잇기 때문에, 그럴듯하기만 하면 거짓도 술술 만든다. 사실을 '아는' 게 아니라 패턴을 '흉내' 낸다는 증거다.
목표가 '진실'이 아니라 '그럴듯함'이라서다. '아는지'를 점검하는 장치가 없으니, 패턴상 자연스러우면 없는 사실도 만들어 낸다. 유창함과 환각은 같은 뿌리다.
"겨우 단어 맞히기가 어떻게 이렇게 유용하냐"는 반론은 중요한 두 가지를 빠뜨린다. 첫째, 언어 속에는 인류가 쌓은 방대한 지식이 녹아 있어, 그걸 거대 규모로 익히면 많은 게 따라온다. 둘째, 날것의 모델을 사람이 직접 다듬는 과정(RLHF)이 더해져, '그럴듯함'을 넘어 '도움 되고 안전한' 답으로 정렬됐다.
책·문서·대화에는 세상의 사실·논리·관습이 이미 압축돼 있다. '다음 단어'를 잘 맞히는 일은, 그 압축된 지식을 빨아들이는 일이 된다.
사람이 좋은 답·나쁜 답을 평가해 모델을 '사람이 원하는 방향'으로 미세 조정. 챗GPT가 무뚝뚝한 예측기를 넘어 친절한 도우미처럼 답하는 이유다.
2022년 챗GPT가 바꾼 건 모델의 똑똑함만이 아니다. 진짜 전환은 누구나 '평범한 말'로 AI를 쓸 수 있게 된 것이다. 코딩도 명령어도 필요 없이, 그냥 부탁하면 됐다. 그래서 AI는 전문가의 실험실에서 나와 모두의 손으로 왔다. 단, 잊지 말 것 — 그 입구 안의 AI는 여전히 '그럴듯함을 잇는 기계'이지, 진실을 아는 존재가 아니다.
| 이전 | 챗GPT 이후 |
|---|---|
| AI = 전문가의 도구(코드·명령) | AI = 누구나 '말'로 쓰는 도구 |
| 기능마다 다른 앱·버튼 | 하나의 대화창으로 글·번역·요약·코딩 |
| "AI가 똑똑해졌다" | "AI를 쓰는 문턱이 사라졌다" ← 진짜 변화 |
대화라는 입구가 열리자 AI 사용은 폭발했다. 챗GPT는 출시 두 달 만에 사용자 1억 명에 이른 것으로 추정됐다(2023, 당시 가장 빠른 확산). 중요한 건 숫자가 아니라 '누가' 쓰게 됐는가다 — 개발자뿐 아니라 학생·교사·직장인 누구나 평범한 말로 AI를 부리게 됐다.
초안 잡기, 요약, 설명 듣기, 외국어 연습
이메일·보고서 초안, 코딩 도움, 아이디어 정리
맞춤 설명·질문 상대 — 단, 사실은 학생이 검증
'단어 맞히기'가 멀리 간 진짜 이유는 언어가 그만큼 많은 것을 담고 있기 때문이다. 인류는 지식·논리·감정·관습을 전부 말과 글로 적어 왔다. 그래서 방대한 텍스트에서 '다음 말'을 잘 잇는 능력은, 결국 그 안에 압축된 지식과 사고의 패턴을 흡수하는 일이 된다. 언어가 세상의 거대한 지도였던 셈이다.
"얼음은 물보다 가볍다", "약속은 지켜야 한다" — 사실·규범·인과가 전부 문장에 들어 있다. 글을 충분히 익히면 이 패턴들이 따라온다.
번역·요약·코딩·상담이 별개로 보이지만, 전부 '언어로 표현된 일'이다. 언어를 다루는 한 모델이 여러 일을 동시에 해내는 이유다.
B5의 결론은 A1의 '분별의 눈'으로 곧장 이어진다. 대화형 AI는 믿기지 않을 만큼 유창하지만, 유창함은 정확함이 아니다. 잘 쓰는 사람은 그 답을 '아주 빠르고 똑똑한 초안'으로 받아, 사실은 직접 검증한다. 자신감 있는 말투에 가장 잘 속는다는 걸 안다.
이 장은 챗봇을 신비화하지 않고, "대화의 정체가 무엇인가"라는 한 질문을 따라간 추론이었다. 출발은 "AI가 이해하고 생각한다"는 통념, 도착은 "거대한 다음 단어 맞히기 + 사람 손질"이라는 결론이었다.