서울에 사는 A(15)양은 지난 8월 온라인에서 자신의 속옷 차림 사진과 영상이 돌고 있다는 사실을 알게 됐다. 그즈음 채팅앱을 통해 알게 된 남성에게 협박을 받아 보내준 것이었다. A양은 경찰에 도움을 요청했고, 경찰로부터 ‘서울 디지털 성범죄 안심지원센터’를 소개받았다. 센터에서는 곧바로 A양 사진과 영상을 찾아나섰다. 딱 22초. 퍼져 있는 A양의 사진과 동영상을 싹 찾아냈고 곧바로 해당 사이트 등에 삭제를 요청했다. 사진과 영상을 찾아낸 건 바로 AI(인공지능)였다.
서울시가 지난 3월 디지털 성범죄 안심지원센터에 AI 불법 촬영물 감지 시스템을 도입한 지 7개월 만에 45만7440건의 영상을 모니터링했다고 12일 밝혔다. AI 도입 전 사람이 수작업으로 찾을 때는 같은 기간 3만3511건밖에 하지 못했다. 검색량이 12배가량 는 것이다.
11명이 근무하는 이 센터는 ‘몰카’나 ‘리벤지(보복) 포르노’ 등 불법 촬영으로 피해를 입은 사람들을 돕는 곳이다. 온라인에 유포된 영상이나 사진을 찾아 삭제까지 지원한다. AI 도입 전에는 신고가 접수되면 ‘OO고 교복’ ‘OO녀’ 등 특정 단어로 검색해 온라인 게시판이나 SNS 등을 찾아 헤매야 했다. 일일이 눈으로 봐야 하기 때문에 계정마다 쫓아가 게시물을 확인해야 하는 것이다. 그렇다 보니 정확도도 부족하고, 시간도 평균 2시간이 걸렸다.
AI는 달랐다. 불법 촬영물을 찾는 데 3분밖에 걸리지 않는다. 유포된 영상과 사진의 유사도까지 검사해 찾기 때문에 정확도도 높다. 검색이 완료되면 자동으로 결과가 직원에게 전달돼 삭제 조치도 빨리 이뤄진다. 특히 24시간 운용이 가능한 것도 장점이다. 센터 관계자는 “불법 촬영물은 새벽 시간에 주로 올라와서 유포되는 경우가 많다”며 “밤낮없이 영상을 찾다 보니 AI는 전문 직원 30명 정도의 역할을 한다”고 했다.
불법 촬영물을 게시된 사이트나 SNS 측에 삭제 요청한 건수도 늘었다. AI 도입 후 7개월 동안 4141건에 대해 삭제 요청했다. 도입 전(2049건)보다 2배 이상 증가했다. 서울시는 연말까지 AI가 아동청소년과 성인을 구분할 수 있는 기술을 개발할 예정이다.