이번에는 기시다 후미오 일본 총리가 AI(인공지능)를 악용한 가짜 동영상의 피해자가 됐다. 앞서 조 바이든 미국 대통령과 도널드 트럼프 전 대통령 등 각국 정상들이 가짜 영상의 피해를 본 데 이어서다. 특히 이번에는 범인이 기시다를 다룬 뉴스 프로그램을 AI에 학습시켜 가짜 음성을 만든 뒤, 영상을 입혀서 마치 기시다가 악담을 하는 것처럼 꾸몄다는 점에서 한단계 진화했다는 지적이다. 내년 각국의 선거를 앞둔 상황에서 가짜 영상의 수준이 사진 등을 짜깁기했던 기존 수준을 넘어서고 있다는 분석이다.
요미우리신문은 4일 AI를 이용해 만든 기시다 총리의 가짜 동영상이 소셜미디어에서 확산하고 있다고 보도했다. 인터넷에 게시된 것으로 확인된 3분 43초 분량의 이 가짜 동영상에는 양복 차림의 기시다가 커튼이 쳐진 실내에서 말하는 장면이 담겼다. 기시다의 얼굴을 유심히 살펴보면 다소 어색함이 드러난다. 눈이 깜빡이지 않는 등 얼굴이 무표정한 가운데 입술만 움직이기 때문이다.
하지만 여기에 첨부된 음성은 평소 기시다의 목소리와 유사하고 말투도 자연스럽다는 분석이다. 특히 기시다는 이 AI로 만들어진 가짜 음성을 통해 ‘악담’을 하는 것으로 나타난다. 말의 내용에 맞게 입술도 따라서 움직인다.
문제의 동영상 화면에는 현지 민영 방송 니혼테레비(닛테레) 뉴스 프로그램 로고가 표시됐고 ‘LIVE’(생중계) ‘BREAKING NEWS’(뉴스 속보)라고 적혔다. 마치 기시다 발언이 긴급 속보로 생중계된 듯하다. 이 가짜 동영상은 애초 올여름 인터넷 동영상 채널인 ‘니코니코’ 등에 게재됐고, 이후 30초 분량으로 줄인 동영상이 지난 2일 소셜미디어 X(옛 트위터)에 올라와 하루 만에 조회수 232만회 이상을 기록했다.
오사카에 사는 한 남성(25)은 요미우리신문에 “재미로 만들었다. 풍자 같은 것”이라고 말했다. 그는 생성형 AI 등을 활용해 제작했다고 밝혔다. 기시다의 온라인 기자 회견을 보도한 닛테레 뉴스 프로그램과 자민당 대회 연설 등 공식 동영상에 있는 총리의 음성을 AI에 학습시켰다는 것이다. 영상 제작에는 1시간이 걸렸다고 밝혔다.
요미우리신문은 전문가를 인용, “동영상은 문자로 쓴 것보다 오감에 호소하기 때문에 더 직접적으로 부정적인 이미지를 심어버린다. 인상 조작이라는 점에서 악질”이라고 보도했다. 영상 등이 도용된 닛테레는 “닛테레의 방송, 프로그램 로고를 가짜 동영상에 악용한 것은 도저히 용서할 수 없다”며 “필요에 따라 적당한 대응을 하겠다”고 밝혔다.
앞서 미국 등에서도 가짜 영상이 문제가 됐다. 공화당의 론 디샌티스 플로리다 주지사 선거 캠프는 지난 6월 트럼프 전 대통령이 코로나 방역 규제를 주도했던 앤서니 파우치 전 미국 국립알레르기·전염병연구소(NIAID) 소장을 끌어안거나 이마에 입을 맞추는 딥페이크 가짜 사진들을 유포했다. 바이든 대통령은 지난달 30일(현지 시각) 인공지능(AI)의 질서 있는 개발과 기술에 따른 부작용을 막기 위한 행정명령에 서명하면서 “나도 내 것(딥페이크)을 본 적이 있는데, ‘내가 언제 저런 말을 했지’라고 의심할 정도”라며 “AI 사기꾼들은 여러분의 목소리를 3초 녹음하는 것으로 가족들과 여러분을 속이기에 충분한 결과물을 만들어 낸다”고 했다.
-
🌎조선일보 국제부가 픽한 글로벌 이슈! 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/275739
🌎국제퀴즈 풀고 선물도 받으세요! ☞ https://www.chosun.com/members-event/?mec=n_quiz
