"AI는 질문에 답만 한다"는 인상을 검증한다. "AI가 '답하는' 데서 '스스로 일하는' 데로 넘어가면 무엇이 달라지나?"를 한 질문으로 따라가, 목표를 주면 계획·도구사용·행동까지 하는 에이전트가 왜 강력하면서 동시에 통제·책임이 핵심 문제가 되는지 논증한다.
"AI는 답만 한다"는 인상을 6단계로 검증한다. 윗줄은 "AI가 행동까지 한다는 게 뭔가"를 논증하고, 아랫줄은 에이전트가 잘 맞는 일과 우리의 태도(감독)로 잇는다.
대부분의 사람에게 AI는 '질문하면 답하는 챗봇'이다. 한 번 묻고, 한 번 답하고, 끝. 하지만 우리의 일은 한 번의 질문-답으로 끝나지 않는다 — "여행을 계획해 줘"는 검색하고, 비교하고, 예약하고, 일정을 짜는 여러 단계의 행동이 필요하다. 답만 하는 AI는 '무엇을 하라'까지만 알려주고, '직접 해 주지는' 못했다.
"여행 계획"은 검색·비교·예약·정리의 연쇄다. 답만 하는 AI는 '방법'은 알려줘도 '실행'은 안 했다. 그 간극을 메우려는 게 에이전트다.
AI 에이전트(agent)는 '답하는 AI'에 세 가지 능력을 더한 것이다 — ① 목표를 여러 단계로 계획하고, ② 검색·계산·예약 같은 도구를 직접 쓰고, ③ 결과를 보며 다음 행동을 스스로 정해 일을 끝까지 처리한다. 핵심은 우리가 '방법'이 아니라 '목표'를 준다는 점이다 — "비행기 예약법 알려줘"가 아니라 "제일 싼 표로 예약해 줘."
"이렇게 하세요"라고 방법을 말하고 멈춤. 실행은 사람 몫.
목표를 받으면 계획→도구 사용→행동을 스스로 반복해 결과를 만든다.
에이전트는 한 번에 끝내지 않고 '생각→행동→관찰'을 반복한다. ① 목표를 받아 할 일을 쪼개 계획하고, ② 그중 한 단계를 도구로 실행하고(검색·코드·예약), ③ 그 결과를 보고 다음 단계를 정한다. 목표가 이뤄질 때까지 이 고리(루프)를 돈다. 사람이 일을 나눠 하나씩 처리하며 점검하는 것과 같은 방식이다.
"가장 싼 항공권 예약"
검색→비교→예약 단계로 쪼갬
검색·가격비교 도구 호출
결과 보고 다음 행동 결정·반복
에이전트의 위험은 그 강점인 '자율성'에서 곧장 나온다. ① 한 단계의 작은 실수가 다음 단계로 누적·증폭되고(연쇄 오류), ② 사람이 매 단계를 안 보니 엉뚱한 방향으로 멀리 가버릴 수 있으며(폭주), ③ 환각(B5)으로 잘못된 도구를 잘못 쓰거나, ④ AI가 한 일이라 책임 소재가 흐려진다. '답'은 틀려도 내가 거르지만, '행동'은 이미 일이 벌어진 뒤다.
한 단계 실수가 다음으로 누적돼 결과가 크게 어긋남
감독 없이 엉뚱한 방향으로 멀리 가버림(통제 난이도)
"AI가 한 일"의 결과 책임은 누구에게?(C17·E2)
"다 맡기면 편하다"는 말은 맞다. 하지만 '맡긴 만큼 위험도 맡긴다'는 뒷면을 놓친다. 자율성을 키울수록 편해지지만, 잘못될 때의 피해와 통제 불가도 같이 커진다. 그래서 정답은 '다 맡김'도 '다 직접'도 아니라, '위험에 맞춰 권한을 조절'하는 것이다 — 가벼운 일은 알아서, 중대한 일은 사람이 승인하게.
맞다 — 단순·반복 일은 알아서 처리하면 큰 이득.
되돌리기 어렵거나 큰일은 사람 승인을 거치게(감독·가드레일).
에이전트의 의미는 분명하다 — AI가 '답하는 도구'에서 '일하는 동료'로 올라섰다. 단순·반복·다단계 일을 알아서 처리해 큰 생산성을 준다. 그러나 자율성이 커진 만큼 실수의 연쇄·폭주·책임 공백의 위험도 커진다. 결론은 하나다 — 'AI에게 권한을 줄수록, 사람의 감독과 승인(가드레일)도 같이 키워야 한다.' 핸들은 끝까지 사람이 쥔다(E2).
| 오해 | 정확한 이해 |
|---|---|
| "AI는 답만 한다" | 목표 주면 계획·도구·행동까지 |
| "다 맡기면 편하다" | 맡긴 만큼 위험도 맡긴다 |
| "알아서 하게 둔다" | 권한 줄수록 감독·승인을 키운다 |
에이전트가 잘 맞는 일은 '여러 단계를 거치지만, 잘못돼도 되돌릴 수 있는' 일이다. 자료 조사, 일정 초안, 코드 작성처럼 사람이 결과를 검토할 수 있는 영역이 안전하다. 반대로 큰돈·법적 효력·되돌릴 수 없는 행동은 반드시 사람 승인을 거치게 한다.
에이전트의 작동은 '생각-행동-관찰'을 번갈아 도는 방식으로 굴러간다. AI가 다음 할 일을 말로 계획하고(생각), 그 계획대로 도구를 호출하고(행동), 돌아온 결과를 다시 읽어(관찰) 계획을 고친다. 도구는 외부 세계와 잇는 '손과 발'이다 — 검색(C18), 계산기, 캘린더, 코드 실행 등. 이 연결로 '머릿속'의 한계를 넘는다.
AI가 다음 행동을 스스로 정하고 결과를 보고 고침 — 한 번에 끝내지 않는다.
검색·계산·예약 등 외부 도구를 호출해 '못 하는 일'을 위임(tool use).
C19의 수확은 'AI에게 일을 맡기되, 통제권은 내가 쥐는' 태도다. 에이전트에게 목표를 줄 땐 범위·권한·확인 지점을 정해 둔다 — 어디까지 알아서 하고, 어디서 멈춰 물어볼지. 그리고 결과를 그대로 믿지 말고 검토한다(E3). AI가 일하는 시대일수록, 사람의 역할은 사라지는 게 아니라 '목표 설정·감독·책임'으로 옮겨 간다.
이 장은 "AI가 행동까지 하면 무엇이 달라지나"라는 한 질문을 따라간 추론이었다. 출발은 "AI는 답만 한다"는 통념, 도착은 "스스로 일하되, 권한엔 감독이 따른다"는 결론이었다.