AI(인공지능)는 편견이 없어 면접에서 다양한 인재를 선발할 것이라는 기대는 위험하다는 연구 결과가 나왔다. 오히려 고용주 선호에 맞는 이들을 편향되게 뽑을 우려가 크다는 것이다.
영국 케임브리지대는 10일(현지 시간) “캠브리지대 연구진이 국제학술지 ‘철학과 기술’에 AI가 직장내 다양성을 촉진할 수 있다는 주장은 거짓이고 위험하다는 연구 결과를 발표했다”고 밝혔다.
연구진은 케임브리지대 컴퓨터 전공 학부생들과 협업해 AI 면접 알고리즘을 모델링(https://personal-ambiguator-frontend.vercel.app/%C2%A0)해 표정과 의상, 조명, 배경 등 변화가 AI의 성격 인식에 어떤 영향을 주는지 살폈다. 같은 인물 사진도 명도·채도 등을 바꾸면 AI가 그 인물의 외향성·솔직함·성실성 등 성격 지표 점수가 들쑥날쑥 바뀌는 것으로 나타났다. 연구진은 AI가 갖고 있는 영상 면접 알고리즘이 골상학과 다름없는 편견이 내재된 것으로도 볼 수 있다고 했다. 얼굴 생김새 등으로 성격 점수를 매기는 것은 문제가 있다는 것이다.
연구진은 또 영미에서 널리 쓰이는 AI 면접 서비스인 리토리오(Retorio)와 마이인터뷰(myInterview) 등을 분석해 “AI가 성별·인종 등을 따지지 않아 다양한 배경의 구직자를 뽑을 것으로 생각하지만 실제는 그렇지 않다”고 했다. 고용주가 선호하는 이상적 후보를 찾기 위해 AI가 기준을 조정해 결국은 다양성보다는 고용주 입맛에 맞는 선발로 균일화된 결과가 나올 가능성이 크다는 것이다. 한편으로는 AI 기준에 최적화하는 방향으로 구직자들이 적응할 것으로 봤다.
연구진은 AI 면접이 세계적으로 확대되고 특정 회사 기술로 독과점 양상을 나타내는 것도 위험하다고 평가했다. 기업이 채용 비용을 절감하기 위해 AI 면접을 속속 도입하고 있지만, AI가 결정을 내리는 중간 과정은 누구도 정확히 알지 못해 ‘블랙박스’(기능은 알지만 작동 원리를 이해할 수 없는 장치)와 다름 없다는 것이다.
연구진은 “기업들은 AI 면접이 성별과 인종 등 인식을 배제해 공정한 채용과 진정한 성과주의의 기반이 된다고 믿고 있지만, 실제로는 불평등과 차별을 고착화할 우려가 있다”고 했다.