이 분야가 중요한 이유

스탠퍼드 HAI가 2026년 5월 발표한 연구는 지원서 400만 건, 기업 156곳을 들여다봤다. 결과는 불편했다. 흑인 지원자의 약 26%가 연방 불리효과(adverse impact) 심사를 부를 만한 직무에 노출됐고, 아시아계도 15% 선이었다. 진짜 문제는 개별 편향이 아니라 구조였다. 다수 기업이 같은 벤더(Pymetrics)의 모델 하나로 후보를 걸러내는 ‘알고리즘 단일문화’ 탓에, 한 회사에서 탈락한 사람은 다른 회사에서도 비슷하게 막힌다. 한 모델의 약점이 시장 전체의 장벽이 된다는 뜻이다. 미국 기업의 약 90%가 어떤 형태로든 AI 스크리닝을 쓰는 지금, 누군가는 이 시스템을 뜯어봐야 한다. 한국 취업시장도 예외가 아니다. 대기업 공채의 AI 역량검사와 AI 면접, 플랫폼 채용의 자동 매칭이 빠르게 표준이 됐고, 그만큼 “이 모델이 특정 집단을 조용히 배제하지 않는가"를 검증할 사람이 필요해졌다.

필요한 역량

핵심은 세 갈래가 겹친다. 첫째 통계와 측정이다. EEOC의 4/5 규칙으로 선발률 격차를 계산하고, 집단별 영향 비율을 따지며, 보호 속성만 바꿨을 때 판정이 흔들리는지를 보는 반사실 일관성 테스트까지 다룬다. 둘째 공정성 ML 도구다. Aequitas, AI Fairness 360, Audit-AI 같은 오픈소스로 직무 단위(전체 평균이 아니라)에서 불리효과를 잡아내는 능력이 갈린다. 스탠퍼드 연구가 짚었듯 추천을 한데 모아 평균 내면 차별이 묻히기 때문이다. 셋째 고용법과 컴플라이언스다. NYC Local Law 144의 독립 감사 의무, EEOC의 Title VII 가이던스, EU AI Act 고위험 분류를 읽고 적용할 줄 알아야 한다. 여기에 벤더로부터 독립성을 지키는 윤리 감각, 비전문 이해관계자에게 리스크를 설명하는 보고서 작성력이 더해진다.

커리어 경로

진입은 두 방향에서 들어온다. 데이터 분석·ML 쪽에서 공정성 측정으로 좁혀 들어오거나, 노무·법무·컴플라이언스 쪽에서 기술을 익혀 넘어온다. 초기에는 HR테크 기업의 책임형 AI 팀이나 컨설팅·로펌의 AI 거버넌스 조직에서 편향 감사 분석가로 시작한다. 중간 단계에서 알고리즘 감사 엔지니어로 직무 단위 불리효과 테스트를 직접 설계하고, 시니어로 가면 독립 감사인 또는 책임형 AI 리드로 감사 방법론 자체를 만든다. NYC LL144가 “벤더가 자기 도구를 감사할 수 없다"고 못 박은 이후 독립 제3자 감사 수요가 늘었고, 이 자리는 AI 보안 거버넌스·페어니스 ML·고용법이 만나는 지점이라 한 분야만 깊게 파서는 채우기 어렵다. 그래서 진입 장벽이 있는 만큼 대체도 어렵다.