‘인종 차별’하는 자동 비누 공급기?
“기술 개발을 하면서, ‘다양성’이란 것에 대해 고민한 적이 없다면, 이 영상을 보라”는 ‘추천’의 글과 함께 최근 트위터와 페이스북 등에 올라온 이 영상 속 비누 공급기(soap dispenser)는 흑인의 손을 인식하지 못한다.
화장실의 이 자동 비누 공급기는 백인이 손을 갖다 대자, 바로 물비누가 나온다. 그러나 흑인 손은 비누 공급기 밑에 있는 센서에 가까이 갖다 대도 ‘손’을 인식하지 못한다.
중동·아프리카를 담당하는 한 페이스북 협력사에서 일하는 나이지리아 라고스의 추쿠에메카 아피그보는, 자신의 트위터에 이 영상을 올리며 “기술을 개발하면서 다양성과, 다양성이 사회에 미치는 영향에 대해 고민해 본 적 없다면, 이 영상을 한 번 보라”고 했다.
그는 다시 한 번 이 센서가 인식하는 것이 ‘색깔’임을 강조하기 위해 하얀 페이퍼 타월을 센서에 갖다 댔다. 그러자 센서는 바로 이를 인식했다. 그의 동영상은 9만3000회 이상 리트윗되고 186만 명 이상이 시청했다.
이 영상의 ‘색 실험’에 대해, 일부는 “기술을 개발하면서 다양성을 존중하지 않는다”고 분노했다. 그러나 일부는 “기계가 인식하는 능력은 인종·다양성과는 아무런 연관이 없는데, 공연히 과장해서 이슈화한다”고 비판했다.
개당 15달러인 이 동영상 속의 자동 비누 공급기는 중국 선전의 한 업체에서 만들었으며, 이 회사의 입장은 이렇다.
“기기엔 적외선 센서가 있어 손을 인식하고 거품을 내보낸다. 기기의 적외선 LED 전구가 내보낸 빛이 손에 반사돼 다시 센서에 인식되는 원리다. 그런데 어두운 피부는 빛의 ‘반사량’보다 ‘흡수량’이 많아 비누가 나오지 않을 수 있다. 이 적외선 센서를 제작한 회사 측도 이런 결함을 인정했다. 전에도 이 센서가 어두운 색은 인식하지 못하는 결함이 있었다고 한다. 우리 제품을 분석할 때에, 다양성을 충분히 고려하지 못했다.”
이전에도, 사람의 움직임을 포착하는 카메라 렌즈가 흑인의 움직임은 인식하지 못하든지 하는 ‘인종차별적’ 기술 논란은 있었다.
사람들은 이를 두고 "어두운 피부에 기기가 작동하지 않는다는 것은, 애초에 제품을 만들 때 흑인을 고려조차 하지 않았기 때문"이라고 말한다.
과거 인공지능(AI)이 심사하는 미인 대회에선, 50명의 미인 중 유색 인종이 한 명도 없었던 적도 있다. 애초 AI를 설계할 때에, 유색 인종은 아예 '미(美)의 기준'에 고려하지도 않은 알고리즘 탓이었다.