2040년 어느 가을. 영국 런던 시민 해리슨(45)씨는 다니던 회사가 문을 닫아 일자리를 잃었다. 월세가 밀려 다음 달이면 집을 비워줘야 한다. 그는 얼마 전 만취해 길에서 자다가 경찰에게 검문을 받은 적이 있다. 어느 날 길을 걷는 해리슨씨에게 중절모를 쓴 남성 두 명이 다가온다. 한 명은 경찰, 한 명은 사회복지사라고 자신을 소개했다. "심리 상담을 한번 받아보시겠습니까? 전액 국가가 지원합니다." 경찰관은 말했다. "범죄 예측 시스템이 우리에게 알려주더군요. 당신이 몇 달 안에 절도할 가능성이 있다고."
영국에선 앞으로 이런 일이 현실이 될 수 있다. 2년 차 경찰관인 나는 지난해 영국 웨스트미들랜즈주(州) 경찰이 '국가 데이터 분석 시스템(NDAS)'이란 범죄 예측 프로그램을 개발하고 있다는 소식을 접했을 때 톰 크루즈가 주연한 영화 '마이너리티 리포트'를 떠올렸다. 이 영화는 미래에 범죄를 저지를 가능성이 큰 사람을 미리 찾아내 체포하는 내용을 다뤘다. 축적된 방대한 데이터를 컴퓨터가 분석하고, 이를 근거로 더 안전한 사회를 도모한다. NDAS를 통해 영국 경찰이 그리는 사회는 이 영화 속 세상과 비슷하진 않을까. 걱정과 기대를 안고 영국을 방문했다.
◇1400개 지표가 범죄자를 예측한다
영국 버밍엄에 있는 웨스트미들랜즈 경찰 본부에서 만난 NDAS 프로젝트 책임자 닉 데일(Dale) 경정은 "빅데이터와 인공지능(AI) 기술을 이용하면 범죄를 막고 잠재적인 피해자를 찾아낼 수 있다"고 설명했다. NDAS는 웨스트미들랜즈 경찰이 개발의 주축이 돼 런던·맨체스터 등 8개 지역 경찰이 참여하고 있다. 개발이 완료되면 잉글랜드와 웨일스 전 지역에 보급될 예정이다.
아직은 기존 데이터를 분석해 프로그램이 어떤 결과를 내놓는지를 살펴보는 테스트 단계다. 수년 내에 '실전'에 이를 활용하는 것이 목표다. NDAS는 인공지능 '딥러닝(심층 학습)'을 활용한다. 어떤 사람이 범죄를 일으킬지, 범죄를 일으키는 원인이 무엇인지를 스스로 학습해 알아낸다는 뜻이다. 투입되는 데이터와 시간이 더 많아질수록 더 나은 분석 결과를 내놓는다. 데일 경정은 "영국 경찰은 과거로부터 축적된 수많은 데이터를 보유하고 있으나 인간의 능력으로는 이 데이터를 일일이 살피고 분석하는 데 한계가 있다"며 "인간보다 연산 능력이 뛰어난 컴퓨터라면 이 데이터를 매우 빠른 속도로 분석해 미래의 범죄 가능성을 예측할 수 있다고 본다"고 말했다.
영국 경찰은 나이, 범죄나 구금 기록, 사건 첩보, 경찰 출동 기록 등의 데이터를 분석한다. 인종·성별·국적·종교 등 신상과 관련한 자료는 차별을 유발할 수 있기 때문에 배제한다. 그 결과 범죄 예측에 활용할 수 있는 1400개 지표를 발견했다. 지금은 경찰 데이터를 주로 쓰지만 앞으로는 학교 및 국민건강서비스(NHS)의 의료 기록 등 데이터도 활용할 방침이다.
◇"잠재적 범죄자를 선량한 시민으로"
범죄 예측에 컴퓨터가 활용된 것이 처음은 아니다. 미국 로스앤젤레스 등에선 프레드폴(PredPol)이라는 프로그램이 개발돼 활용 중이다. 프레드폴은 최근 2~5년간 범죄 유형과 발생 시각·위치 데이터를 분석해 앞으로 12시간 이내에 범죄 발생 가능성이 큰 지역을 집어준다. 경찰로선 어느 지역을 집중적으로 순찰해야 하는지를 알 수 있다. 웨스트미들랜즈 경찰의 NDAS은 한발 더 나아간다. 예측 단위가 '지역'이 아닌 '사람', 즉 개인이다. 누가 범죄를 저지를지, 누가 피해자가 될지 개인을 특정해 조치를 취하겠다는 것이다.
'조치'의 구체적인 방침은 아직 합의되지 않았다. 다만 데일 경정은 영화처럼 경찰이 집에 들이닥쳐 '잠재 범죄자'를 체포하는 일은 없으리라는 점을 거듭 강조했다. 대신 다른 기관의 협조도 구해 잠재적 범죄자가 '선량한 시민'으로 남도록 유도하는 방안이 채택될 가능성이 크다. 예를 들어 한 10대 청소년이 범죄를 저지를 가능성이 크다는 예측 결과가 나온다면 학교에 이를 알려 교사가 더 관심을 기울여달라 요청하는 식이다.
◇"컴퓨터가 인간의 편견 답습 말아야"
인류는 컴퓨터에 의한 범죄 예측을 받아들일 수 있을까. 영국 에든버러대 연구실에서 만난 찰스 랩(Raab) 교수는 "분석에 활용돼는 경찰 데이터가 균일하게 수집·관리되지 않아 부정확할 우려가 있다. 또 인간이 가진 편견과 차별이 강화되지 않도록 하는 것도 관건"이라고 했다. 예컨대 특정 인종을 불리하게 차별하는 쪽으로 법 집행이 이뤄져 왔다면 그 데이터를 활용한 컴퓨터의 분석 결과도 차별적일 수밖에 없다. NDAS와 관련한 윤리 연구에 참가 중인 조나단 케이브(Cave) 워윅대 교수는 "인공지능이 도출해낸 결과가 어떤 과정을 거쳐 나오는지 인간이 파악하기 어려운 경우가 많다는 점은 걱정된다"고 말했다. 웨스트미들랜즈 경찰은 '개발을 서두르기보다는 윤리 문제를 하나하나 해결하고 나가겠다'는 입장이다. 이를 위해 사업이 본격 시작되기 직전인 2017년 앨런튜링연구소와 '경찰 디지털 윤리위원회'에 윤리적 검토를 요청했다. 경찰 자체적으로 일반인들이 참여하는 윤리위원회도 만들었다.
영화 마이너리티 리포트는 불완전성과 악용 가능성 등을 이유로 범죄 예측 시스템이 폐지되는 것으로 끝이 난다. 모든 기술이 그렇듯 NDAS도 완벽하지 않다. 닉 데일 경정은 "경찰은 시민의 동의 아래서만 존재할 수 있다. 우린 '경찰이 시민이고, 시민이 곧 경찰'이라는 사실을 잊지 않고 있다"고 했다. 불완전함을 극복하려는 그들의 노력을 보니 걱정보다는 희망이 더 크게 느껴졌다.
[미탐100 다녀왔습니다]
AI 수사기법 도입되면, 오직 시민을 위해 쓸게요
저는 2년 차 경찰관입니다. 경찰관에게는 범죄가 사회에 남기는 상처가 더 크고 선명하게 보입니다. 범인을 잡아 사건을 해결하더라도 범죄의 흔적은 지워지지 않기 때문입니다. 범죄를 완전히 막을 수 있으면 좋겠다는 상상을 합니다. 그러면 잊히지 않을 피해자의 고통도, 범죄에 대한 사람들의 불안도 줄어들 테니까요. 이런 생각이 영국 '국가 데이터 분석 시스템(NDAS)'에 대한 관심으로 이어졌습니다.
시민들은 자신의 안전을 위해 국가에 공권력이라는 칼을 쥐여 줬습니다. 그러나 우리는 그 칼의 의미를 깊이 고민해 봐야 합니다. 칼끝이 때론 시민들을 향하기 때문이지요. NDAS는 빅데이터와 인공지능 시대에 영국 경찰에 주어진 새 칼일 수 있습니다.
제가 직접 본 영국 경찰은 새롭고 멋진 칼을 과신하며 자만하기보다 그 칼이 시민들에게 어떤 영향을 미칠지 신중하게 고민하고 있었습니다. 공권력과 시민자유의 관계는 정답이 없는 어려운 문제입니다. 하지만 아무리 시간이 오래 걸려도 놓지 말아야 할 문제입니다. 그 고민의 깊이만큼 정의에 한 걸음 더 다가갈 수 있지 않을까요.