구글은 어떻게 여성을 차별하는가

사피야 우모자 노블 지음|노윤기 옮김|한스미디어
344쪽|1만6000원

미국 캘리포니아대학교(UCLA) 정보학 교수인 저자는 2011년 가을, 10대 초반의 딸과 또래 사촌 여자애들이 좋아할 만한 놀잇감을 찾아 구글을 검색하고 있었다. 검색창에 '흑인 소녀(Black girls)'라는 키워드를 넣는 순간 그는 경악했다. 약 14억 개 검색 결과 중 가장 위에 노출된 것은 '달콤한 흑인 여성 성기닷컴'이라는 포르노 웹사이트. 그뿐 아니라 페이지 대부분은 '흑인 소녀 채팅룸' '엉덩이 큰 흑인 소녀들' 등 포르노 사이트 링크로 가득 찼다. 화면 우측에는 '섹시한 흑인 데이트' 같은 낯뜨거운 광고가 붙기 시작했다. '포르노'라는 단어를 함께 검색하지 않았는데 어떻게 이러한 정보들이 일방적으로 제공될 수 있을까? 저자는 생각했다. '검색 결과로 표출된 리스트의 상위 정보는 나와 내 아이들에게 필요한 최적의 정보가 아니다. 그렇다면 누구를 위한 것인가? 정보의 우선순위를 결정하는 건 누구인가? 이를 통해 누군가가 취하려 하는 이득은 무엇인가?'

이 사건을 계기로 저자는 구글 검색 엔진의 여성·인종 차별 알고리즘을 연구하게 된다. 굳이 구글을 택한 것은 검색 엔진을 사용하는 미국인의 83%가 구글 이용자로 영향력이 지배적이기 때문이다. 대부분의 사람은 검색 알고리즘이 대중의 선호도를 파악해 가장 인기 있는 게시물부터 상위에 노출한다고 생각한다. 그러나 저자는 "문제가 불거지자 구글은 기술 개선을 통해 더 이상 '흑인 소녀'의 검색 결과에 포르노그래피가 상위에 노출되지 않도록 수정했다. 이는 알고리즘 자체가 차별적이라는 방증"이라며 "기술은 중립적이란 믿음은 수정돼야 한다"고 말한다. 저자는 구글 광고는 사용자가 광고를 클릭하는 횟수에 따라 광고주가 광고비를 지출하도록 돼 있기 때문에 구글이 알고리즘에 개입해 흑인 여성과 소녀에 대한 115억 건의 검색 결과 중 포르노그래피 산업과 연관된 검색 결과를 우선 표출한다고 주장한다. "구글은 미국의 신자유주의 자본과 사회적 엘리트들의 이해관계를 반영하는 편향된 알고리즘 정보를 유통한다. 자신의 독점적 지위를 이용해 사회적 신뢰보다는 광고 수익과 연관된 정보를 우선 유통한다."

UN이 2013년 전개한 양성평등 캠페인. 여성이 구글 검색에서 성차별적이고 비인격적인 폄훼의 대상이 되고 있는 현실을 고발했다. 여성의 입 위치에 놓인 구글 검색창에 ‘여성은 ~을 하는 것이 좋다(Women need to)’ ‘여성은 ~을 해서는 안 된다(Women shouldn’t)’ ‘여성은 ~을 할 수 없다(Women cannot)’ 등의 문장을 넣었을 때 성차별적인 내용의 자동 완성 문구가 생성되는 것을 보여준다.

2013년 UN이 벌인 양성평등 캠페인도 구글 알고리즘이 여성 차별적이라는 근거가 된다. 캠페인 이미지는 여성 입 위치에 구글 검색창을 놓고 '여성'이 주어인 문장을 쳐 넣으면 어떤 자동 완성 문구가 떠오르는지를 보여줬다. '여성은 ~을 할 수 없다(Women cannot)'는 '운전할 수 없다' '신뢰할 수 없다' 등으로 자동 완성되었고, '여성은 ~을 해서는 안된다(Women shouldn't)'는 '권리를 가져서는 안 된다' 등의 문장으로 자동 완성됐다. 오바마 전 대통령 가족도 구글의 인종차별을 벗어날 수 없었다. 2015년엔 '검둥이'라는 단어를 구글 맵에서 검색하면 백악관이 표시돼 문제가 됐다. 미셸 오바마의 구글 자동 완성 문구에 '유인원'이란 단어가 포함되기도 했다.

왜 이런 일이 일어날까? 저자는 백인과 아시아계 남성들이 실리콘밸리를 주도하고 있기 때문이라고 단언한다. 흑인은 구글이나 페이스북 같은 유명한 정보기술 회사에 컴퓨터 프로그래머로 채용되지 않기 때문에 백인 우월주의를 토대로 검색 엔진 알고리즘이 만들어질 수밖에 없다는 것이다. 미국 노동부 인력 데이터에 따르면 2005년 실리콘밸리 상위 10개사 거대 하이테크 컴퍼니의 최고 관리자 5907명 중, 흑인과 히스패닉계는 296명이다. 2016년 7월 1일 기준 구글 인력 구성을 살펴보면 흑인은 2%, 라틴계는 3%에 불과하다. 저자는 "만일 기업들이 진심으로 테크노크라시를 꿈꾸고 있다면 역사의식과 비판 이론을 함양한 흑인학, 인종학, 양성평등 및 여성학 전공자들을 고용하는 일이 시급하다"고 말한다.

지난해 미국에서 출간돼 뉴욕 공공도서관 논픽션 부문 우수 도서로 선정됐다. 문제의식을 가지고 읽어볼 만하지만, 저자가 문제로 삼은 알고리즘의 원리를 명확히 규명하지 못하고 추측 수준에 머문다는 점은 아쉽다. 문득 궁금해서 'Asian girl(아시아 여자)'을 검색해봤다. 데이팅 사이트가 맨 위에 떴다. 원제 Algo rithms of Oppression.