설명가능 AI

핵심 포인트

• 복잡한 AI가 왜 그런 결정을 했는지, 사람이 이해할 수 있게 근거를 보여 준다.
• 의료·금융·채용처럼 결정에 책임이 따르는 분야에서 특히 중요하다.
• 어떤 입력이 판단에 크게 작용했는지 표시하는 방식 등이 쓰인다.

예시

대출 거절 AI가 "최근 연체 이력이 가장 크게 작용했다"고 이유를 보여 주면, 사람이 결과를 납득·점검할 수 있다.

관련 개념

역링크

• C17. AI 블랙박스 설명가능 AI XAI