"인공 뇌"라는 인상을 검증한다. "신경망은 정말 뇌처럼 생각하나"를 한 질문으로 따라가, 그 정체가 '가중치를 고쳐 패턴을 익히는 수학 구조'임을 논증한다.
"인공 뇌"라는 인상을 6단계로 검증한다. 윗줄은 "신경망의 정체가 무엇인가"를 논증하고, 아랫줄은 그 구조가 만든 층층 학습과 의인화하지 않는 이해로 잇는다.
'인공 신경망'이라는 이름 때문에, 많은 이가 컴퓨터 속에 축소된 인간 뇌가 들어 있어 사람처럼 생각한다고 상상한다. 하지만 이 의인화는 위험한 오해를 낳는다 — 신경망이 '이해'하고 '느낀다'고 믿게 만들어, 그것의 진짜 한계(환각·편향)를 못 보게 한다.
사람 뇌의 뉴런은 약 860억 개, 화학·전기로 작동하는 살아있는 세포다. 인공 신경망의 '뉴런'은 그저 숫자를 곱하고 더하는 수식일 뿐이다. 영감은 받았지만 작동 원리도 재료도 전혀 다르다.
신경망이 실제로 하는 일은 한 문장이다 — 수많은 단위(노드)를 연결하고, 그 '연결의 세기(가중치)'를 조금씩 고쳐 패턴을 익히는 것. 처음엔 엉망으로 답하다가, 틀릴 때마다 가중치를 아주 조금씩 조정하며 점점 잘 맞히게 된다. '생각'이 아니라 '수많은 숫자(가중치)의 미세 조정'이 학습의 전부다.
"이해하고, 추론하고, 의식이 있다." → 신경망 안에 그런 건 없다.
입력에 가중치를 곱해 다음으로 넘기고, 틀리면 가중치를 고친다. 숫자 다이얼을 미세 조정하는 일의 반복.
신경망은 세 부품으로 돼 있다 — 노드(숫자를 받아 내보내는 단위), 연결(가중치)(노드 사이를 잇는 세기), 층(노드의 묶음). 입력이 가중치를 곱하며 층을 통과하고, 결과가 틀리면 역전파(B4)로 가중치를 거꾸로 고친다. 핵심은 층을 깊게 쌓을수록 낮은 층은 단순한 특징을, 높은 층은 복잡한 의미를 잡는다는 것이다.
데이터(픽셀·숫자)를 받음
가중치 곱하며 특징 추출 — '깊다'
예측(고양이? 다음 단어?)
신경망이 뇌가 아니라는 증거는 한계에서 드러난다. 의미를 이해하지 못하고(패턴만 맞힘), 사람과 달리 엄청난 데이터·전기가 필요하며, 무엇보다 자기가 왜 그렇게 답했는지 설명하지 못한다(블랙박스, C17). 가중치 수십억 개가 어떻게 답을 만들었는지는 만든 사람도 모른다.
적은 예시로 배우고, 상식으로 일반화하고, 자기 판단을 어느 정도 설명한다. 신경망은 이 모두에서 다르다 — 영감만 받았을 뿐이다.
"부품이 그렇게 단순한데 어떻게 강력하냐"는 반론은 '규모의 힘'을 놓친 것이다. 노드 하나는 보잘것없지만, 수억~수천억 개를 깊게 연결하면 그 단순한 단위들이 함께 엄청나게 복잡한 패턴을 표현한다. 개미 한 마리는 단순해도 수백만 마리가 모이면 정교한 집을 짓는 것과 같다.
노드 하나는 그저 곱하고 더하고 거르는 작은 수식. 혼자선 아무것도 못 한다.
깊은 층으로 방대하게 연결하면, 픽셀에서 '고양이'를, 글자에서 '문맥'을 잡는 능력이 나타난다. 단순함의 거대한 합이 복잡함을 만든다.
신경망을 바르게 이해하는 핵심은 의인화하지 않는 것이다. 그것은 생각하거나 느끼는 작은 뇌가 아니라, 가중치를 조정해 패턴을 익히는 거대한 수학 구조다. 이렇게 보면 신경망의 강점(패턴 처리)과 약점(이해 없음·블랙박스·편향)이 동시에 이해되고, AI에 과한 신뢰도 공포도 걷히게 된다.
| 의인화한 오해 | 구조로 본 진실 |
|---|---|
| "이해하고 생각한다" | 가중치로 패턴을 맞힌다 |
| "작은 인간 뇌" | 뇌에서 영감만 받은 수학 구조 |
| "왜 그런지 알 것" | 설명 못 하는 블랙박스(C17) |
신경망이 실제로 사진을 알아보는 과정을 따라가면, 구조가 어떻게 일하는지 눈에 들어온다. 낮은 층은 가장 단순한 조각을, 높은 층으로 갈수록 그것을 조합한 더 큰 의미를 잡는다. 사람이 "무엇을 보라"고 안 정해줘도, 층의 깊이가 이 사다리를 자동으로 만든다.
밝기·선·점
모서리·곡선
눈·코·귀
'고양이!'
신경망에서 '학습'이 곧 '가중치 조정'인 이유는, 가중치 말고는 바뀌는 게 없기 때문이다. 구조(노드·층)는 고정이고, 데이터로 바꾸는 건 오직 연결의 세기(가중치)다. 그래서 학습이란 수억 개의 다이얼을 조금씩 돌려, 출력의 틀림이 가장 작아지는 값을 찾는 거대한 조율 작업이다.
수억 개의 볼륨 다이얼이 있고, 틀릴 때마다 "이 다이얼을 살짝 올리면 덜 틀리겠다"를 계산해 조금씩 돌린다(경사하강·역전파).
학습이 끝난 AI를 저장한다는 건 곧 이 가중치 값들을 저장하는 것. AI의 '아는 것' 전부가 이 숫자들 안에 들어 있다.
C3의 수확은 AI를 의인화하지 않는 눈이다. "AI가 이해했다·원한다·느낀다"는 표현은 편하지만, 그 순간 우리는 AI의 진짜 작동(패턴 매칭)과 한계(이해 없음)를 못 보게 된다. 신경망을 '가중치로 패턴을 맞히는 기계'로 정확히 볼 때, 강점은 활용하고 약점은 경계할 수 있다.
이 장은 신경망을 신비화하지 않고, "신경망은 정말 뇌인가"라는 한 질문을 따라간 추론이었다. 출발은 "컴퓨터 속 인공 뇌"라는 통념, 도착은 "가중치를 고쳐 패턴을 익히는 구조"라는 결론이었다.