지원자가 "왜 떨어졌나요"라고 물어오는 시점
고용노동부는 채용 과정의 AI 활용 사실을 미리 알리고 차별을 금지하는 방향으로 채용 제도 개선을 추진하면서, 채용 분야 AI 활용 가이드라인 마련을 예고한 상태입니다. 현행 채용절차의 공정화에 관한 법률에는 AI 사용 사전 고지 의무가 명시돼 있지 않습니다. 다만 개인정보보호법 제37조의2는 2024년 3월부터 이미 시행 중이어서, 완전히 자동화된 결정에 대해 지원자가 거부와 설명을 요구할 수 있고 처리방침에 결정 기준을 공개해야 합니다. 채용절차법 정비를 기다릴 이유가 없는 셈입니다.
출발점은 새로운 시스템을 사는 일이 아니라 이미 돌고 있는 것을 세는 일입니다. 서류 스크리닝 점수, AI 면접 영상 분석, 인사평가 추천, 심지어 채용 공고 문구를 다듬는 생성 모델까지 목록화해 보면 대부분의 기업이 예상보다 많은 지점에서 AI를 쓰고 있습니다. 목록이 없으면 사전 고지 문구도 쓸 수 없습니다.
무엇이 '차별'로 문제가 되는가
성별·연령·출신학교·거주지역을 입력에서 빼는 것은 최소 조건이지만 충분하지는 않습니다. 이 항목들은 대리변수(proxy)를 통해 되살아납니다. 졸업연도는 연령을, 통학 가능 거리는 거주지를, 특정 동아리나 군 복무 구분은 성별을 상당한 정확도로 복원합니다. 자기소개서 문장 길이나 어휘 분포처럼 의도하지 않은 경로도 있습니다.
더 구조적인 문제는 학습 데이터입니다. 과거 5년간 합격자 데이터로 모델을 학습시키면, 그 5년간 면접관이 가졌던 선호가 그대로 재현됩니다. 모델은 "좋은 직원"을 배우지 않고 "과거에 뽑혔던 사람"을 배우기 때문입니다.
측정은 집단별 합격률 비교로 시작합니다. 미국 EEOC의 실무 기준인 4/5 규칙(가장 높은 집단 합격률의 80% 미만이면 영향 조사)은 국내 법적 기준은 아니지만 점검 지표로는 쓸 만합니다. 예컨대 남성 지원자 서류 통과율 24%, 여성 15%라면 비율이 0.63으로 80%를 밑돌아 원인 분석이 필요한 상태입니다.
다만 지표만 맞추려는 조정은 역효과를 냅니다. 집단별 통과율을 맞추기 위해 컷오프를 다르게 적용하면 그 자체가 새로운 차별 소지가 됩니다. 지표는 원인을 찾는 신호로 쓰고, 조정은 피처와 학습 데이터 쪽에서 해야 합니다.
설명 가능성을 시스템 요건으로 번역하기
"설명 가능한 AI"는 추상적으로 들리지만, 실제로 답해야 하는 질문은 세 개로 압축됩니다. AI가 어느 단계에 쓰였는지, 어떤 기준으로 판단했는지, 어떤 데이터를 참조했는지입니다.
이를 시스템 요건으로 옮기면 로그 설계가 됩니다. 점수만 남기면 반년 뒤 아무것도 설명할 수 없습니다. 최소한 다음 항목이 지원자 단위로 남아야 합니다.
모델이 바뀌면 설명도 달라집니다. 채용 시즌 중간에 모델을 교체하면 같은 이력서가 다른 결과를 받고, 그 차이를 지원자에게 설명할 방법이 없습니다. 한 전형 회차 안에서는 모델 버전을 고정하고, 교체가 불가피하면 회차 경계에서 바꾸고 그 사실을 기록에 남기는 편이 안전합니다.
사람이 결정하는 구간을 계약처럼 정의한다
AI를 '선별 보조'로 쓰는 것과 '탈락 결정'에 쓰는 것은 법적·실무적 무게가 다릅니다. 권장되는 설계는 AI가 순위와 근거를 제시하되, 탈락은 사람이 확정하는 구조입니다. 이때 "사람이 봤다"가 형식적 승인이 되지 않도록 검토 기록을 남겨야 합니다.
이의제기 절차도 화면으로 존재해야 합니다. 접수 → 재검토자 배정 → 재검토 결과 → 통보까지 처리 기한과 담당자를 정해 두지 않으면, 문의가 왔을 때 채용 담당자 개인의 메일함에서 사라집니다.
평가자 UI에서는 앵커링을 줄이는 순서 설계가 효과적입니다. AI 점수를 먼저 보여주면 평가자 판단이 그 값으로 수렴합니다. 평가자가 자기 평가를 입력한 뒤에 AI 점수를 공개하는 방식, 또는 점수 대신 근거 항목만 먼저 제시하는 방식이 현실적인 대안입니다.
벤더 솔루션을 쓸 때 확인할 것
외부 AI 채용 솔루션을 도입할 때 도입 검토 단계에서 요구할 자료는 명확합니다. 학습 데이터의 출처와 구성, 집단별 편향 테스트 결과와 그 방법론, 로그 반출 범위(우리 DB로 내려받을 수 있는지), 그리고 같은 입력에 같은 결과가 나오는 재현 가능성입니다.
계약서에서는 지원자 개인정보의 보관 기간, 국외 이전 여부, 자사 지원자 데이터를 벤더 모델 학습에 재사용하지 않는다는 조항을 명시적으로 끊어두어야 합니다.
가장 중요한 전제는 이것입니다. 지원자와 규제기관에 설명할 책임은 솔루션 벤더가 아니라 채용 주체인 기업에 남습니다. "벤더 모델이라 내부 로직을 모릅니다"는 답변은 성립하지 않습니다.
6개월 안에 갖출 최소 체계
| 기간 | 과제 |
|------|------|
| 1개월 | AI 활용 현황 목록 작성 (단계·용도·벤더) |
| 2개월 | 채용 공고·지원서에 사전 고지 문구 반영 |
| 3~4개월 | 판단 로그·검토 이력 보관 구조 구축 |
| 5개월 | 편향 점검 주기 정의 (회차별 또는 반기) |
| 6개월 | 이의제기 창구·처리 절차 운영 시작 |
기존 인사 시스템을 교체하지 않고도 상당 부분 가능합니다. 판단 로그 테이블과 이의제기 워크플로를 별도 모듈로 붙이고 기존 ATS·인사 시스템과 API로 연동하는 방식이 비용과 기간 면에서 현실적입니다.
POLYGLOTSOFT는 사내 시스템 구축과 AI 연계 개발 경험을 바탕으로, 기존 인사·채용 시스템에 판단 로그, 편향 점검 리포트, 이의제기 처리 화면을 붙이는 작업을 수행합니다. 구독형 개발 모델로 제도 변화에 맞춰 단계적으로 확장하는 방식도 가능합니다. 현재 운영 중인 채용·평가 시스템의 설명 체계를 점검하고 싶으시다면 언제든 문의해 주시기 바랍니다.