개념
편향
학습 데이터에 담긴 치우침이 AI 판단에 그대로, 때로는 더 크게 나타나는 것. 알고리즘 차별로 이어질 수 있다.
핵심 포인트
- 학습 데이터에 담긴 사회적 치우침을 AI가 그대로, 때로는 더 크게 반영한다.
- 특정 성별·인종·지역에 불리한 판단으로 이어져 차별을 낳을 수 있다.
- 데이터 점검, 다양한 표본, 결과 감시로 줄이려 노력한다.
예시
과거 합격자 대부분이 한쪽 성별이던 데이터로 채용 AI를 학습하면, 그 성별을 더 뽑는 편향이 생길 수 있다.
한 걸음 더
편향은 알고리즘이 "악의를 가져서"가 아니라, 치우친 데이터를 충실히 배워서 생긴다 — 그래서 데이터 자체를 봐야 한다.