"게임 AI가 이겼으니 자율주행도 곧"이라는 인상을 검증한다. "왜 자율주행은 아직 완벽하지 않나"를 한 질문으로 따라가, '몸을 가진 AI'가 만나는 현실의 벽을 논증한다.
"게임 이겼으니 자율주행도 곧"이라는 인상을 6단계로 검증한다. 윗줄은 "몸을 가진 AI가 왜 어려운가"를 논증하고, 아랫줄은 안전·책임·윤리로 잇는다.
자율주행을 두고 사람들은 두 극단으로 갈린다 — "게임도 이겼으니 곧 운전도 완벽할 것"과 "몇 년째 '거의 다'라더니 영영 안 될 것". 두 생각 다 '몸을 가진 AI가 왜 특별히 어려운지'를 모르는 데서 온다. 자율주행은 인식(보는 것)은 이미 잘한다 — 진짜 어려움은 다른 데 있다.
AI는 카메라·센서로 주변을 사람보다 잘 보기도 한다. 진짜 벽은 "처음 보는 이상한 상황에서 안전하게 판단하기"다 — 게임엔 없던, 현실에만 있는 어려움이다.
화면 속 AI와 달리, 로봇·자율주행 같은 '몸을 가진 AI'는 현실의 세 가지 벽을 만난다 — 예측 불가(무한히 다양한 상황), 안전 위험(실수가 곧 사고), 물리 법칙(관성·날씨·고장). 게임은 이 셋이 없었다. 그래서 자율주행의 어려움은 '보기'가 아니라 '세상의 무한한 예외 속에서 안전을 보장하기'다.
도로 위 상황은 무한히 다양. 갑자기 뛰어드는 아이, 떨어진 짐, 이상한 신호.
게임은 져도 안전, 운전은 한 번 실수가 사고. 99%로는 부족하다.
관성·빙판·악천후·센서 고장 — 현실의 몸이 받는 제약.
자율주행 AI는 인식(센서로 주변 파악) → 판단(어떻게 할지 결정) → 제어(차를 움직임)의 세 단계로 돈다. 게임에서 익힌 강화학습을 쓰되, 현실에서 무한히 연습할 수 없으니 가상 시뮬레이션에서 훈련한다. 문제는 '가상과 현실의 차이(sim-to-real 갭)' — 시뮬레이션이 아무리 정교해도 진짜 도로의 모든 변수를 담을 수 없다.
카메라·라이다로 주변 파악
"멈출까 갈까" 결정
핸들·브레이크 조작
자율주행의 진짜 벽은 엣지 케이스 — 거의 안 일어나지만 일어나면 위험한 드문 상황이다. 횡단보도 위 코스튬 입은 사람, 뒤집힌 트럭, 신호등 위 새 떼. AI는 학습 데이터에 없던 상황에 약하고(C1·A1), 운전에선 그 한 번의 실수가 사고가 된다. 흔한 상황은 금방 배워도, 무한한 예외를 다 대비하는 건 끝없는 과제다.
여러 센서를 합쳐(카메라+라이다+레이더) 약점을 메우고, 이상하면 안전하게 멈추거나 사람에게 넘긴다. 그래도 '모든 예외'는 못 없앤다.
"통계적으로 사람보다 안전하면 충분"이라는 주장은 절반은 맞다 — 자율주행이 전체 사고를 줄인다면 큰 이득이다. 하지만 두 가지가 남는다 — 사고가 났을 때 '누가 책임지나'(운전자? 제조사? AI?), 그리고 사람들이 '기계의 실수'를 더 가혹하게 본다는 신뢰의 문제다. 그래서 기술이 안전해도 책임·법·신뢰가 함께 풀려야 굴러간다.
사람 운전엔 음주·졸음·부주의가 많다. AI가 전체 사고를 줄인다면 분명한 이득.
로봇·자율주행을 정확히 보면 — 빠르게 발전하지만 '현실의 벽(예측 불가·안전·책임)' 때문에 신중하고 단계적으로 나아간다. '곧 완벽'도 '영영 안 됨'도 아니라, 안전이 보장되는 영역부터 차근차근 넓혀 간다. 그래서 이 분야는 기술만큼 안전·책임·신뢰가 중요하다 — 사람을 보호하는 게 목적이니까.
| 오해 | 정확한 이해 |
|---|---|
| "게임 이겼으니 곧 완벽" | 현실은 예측 불가·안전의 벽 |
| "평균 안전이면 끝" | 책임·신뢰가 함께 풀려야 |
| "기술만 발전하면" | 안전·법·윤리가 같이 가야 |
'완전 자율'은 갑자기 오지 않는다. 자율주행은 사람이 다 하는 단계부터 차가 다 하는 단계까지 여러 레벨로 나뉘고, 안전이 검증된 만큼 한 칸씩 올라간다. 지금 대부분은 '사람이 책임지되 차가 일부 돕는' 중간 단계다 — 이 '단계'를 알면 과장 없이 현실을 읽는다.
자율주행엔 더 빠른 칩으로 못 푸는 문제가 있다 — 윤리적 선택과 책임이다. 사고가 불가피한 순간 누구를 보호할지(승객? 보행자?), 사고가 나면 누가 책임질지(운전자·제조사·AI)는 '옳음'에 관한 결정이라 기술의 영역이 아니다. E2에서 봤듯 가치 판단과 책임은 AI에게 넘길 수 없는 사람의 몫이다.
피할 수 없는 사고에서 누구를 우선 보호? 정답이 없는 가치 선택 — AI가 정할 일이 아니다.
사고 시 운전자·제조사·소프트웨어 중 누가? 법·제도가 정리 중인 문제(D3의 3주체).
로봇·자율주행이 주는 교훈은 기술만 보면 절반만 본다는 것이다. 똑똑한 AI가 나와도, 안전 검증·책임 제도·사회적 신뢰가 함께 갖춰져야 실제로 굴러간다. 그래서 이 분야 소식은 '얼마나 똑똑한가'와 '얼마나 안전·책임이 준비됐나'를 함께 읽어야 한다.
이 장은 "왜 자율주행은 아직 완벽하지 않나"라는 한 질문을 따라간 추론이었다. 출발은 "곧 완벽 vs 영영 안 됨"이라는 통념, 도착은 "현실의 벽 때문에 신중·단계적"이라는 결론이었다.