백악관에 앉은 진지한 표정의 오바마 전 대통령이 엉뚱한 말을 하기 시작한다. 그러고는 갑자기 "그럼 간단히 이렇게 말해볼까요. 트럼프는 완전 쓰레기(dipshit)"라고 했다. 눈썹을 올리며 말하는 표정, 단호한 손동작까지 오바마와 똑같다. 웃음기도 없어 진짜 그가 하는 말이 맞나 시청자를 어리둥절하게 만든다. 마지막으로 이렇게 덧붙인다. "제가 이런 말을 할 사람이 아닌 걸 아시죠. 적어도 공개석상에서는."
영상 속 오바마는 진짜 오바마가 아니다. 인공지능(AI)이 만들어낸 가상의 존재다. 온라인 매체 버즈피드가 인공지능을 이용한 합성 기술 '딥페이크(deepfake)'의 위험성을 경고하고자 제작한 것이다. 목소리, 말투까지 똑같은 가짜 오바마를 보고 합성이라고 의심하기 쉽지 않다. 이 딥페이크 기술이 1∼2년 안에 정치판과 외교판을 뒤흔들 변수가 될 것이라고 AP통신은 2일(현지 시각) 보도했다.
'딥페이크'는 '딥러닝(deep learning)'과 '거짓(fake)'의 합성어다. 컴퓨터가 데이터를 축적해 스스로 학습하는 딥러닝 기술을 이용, 거짓 정보를 만든다는 의미다.
처음 주목받은 건 포르노 배우에 연예인 얼굴을 합성한 영상들이 유포돼 논란이 생기면서다. 현재 영상에 따라 입 모양, 눈 움직임 등에 약간의 어색함이 있지만 1∼2년 안에 기술이 완성될 것으로 업계는 예측한다.
딥페이크는 인공지능(AI)에 합성하고자 하는 사람의 다양한 각도의 사진 수백 장을 입력시켜 영상으로 만들어낸다. 온라인에서 사진을 손쉽게 구할 수 있는 유명인일수록 타깃이 되기 쉽다. 2016년 발표된 음성 포토샵 '보코(voco)' 기술은 문장을 입력하면 특정인의 목소리로 말하는 기술을 구현했다. 40여분짜리 녹음 파일만 있다면, 한 사람이 하는 모든 말을 만들어낼 수 있다고 한다.
문제는 딥페이크가 정치에 악용될 때다. '카더라'를 담은 루머 정도가 아니라 한 정치인이 아예 하지도 않은 말을 한 것처럼 믿게 만드는 영상이 공유될 수 있다. 공화당 소속 마코 루비오 상원의원은 "인종차별 욕설을 하는 미국 정치인, 해외에서 민간인을 학살하는 미군 영상처럼, 외국 정보기관이 프로파간다를 퍼뜨리는 방식으로 가짜 동영상을 만들 수도 있다"고 경고했다. 이와 더불어 가짜 뉴스가 정교해질수록 진짜 뉴스는 힘을 잃는다. 사람들이 진짜 뉴스를 보고도 믿지 않게 되기 때문이다.
오바마 영상을 제작한 버즈피드가 내놓은 해결책은 개인에게 의존한다. 스스로 정보 출처를 잘 확인하고, 영상에 어색한 부분이 없는지 확인하라고 조언한다. AI가 제작한 가짜 뉴스를 AI를 이용해 구분해낼 기술도 개발 중이다. 다만, "딥페이크 기술 발전 속도가 이를 방지하는 기술 개발 속도보다 빠르다는 게 업계의 우려"라고 AP통신은 전했다.
