WEEKLY BIZ 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/146096
잘 만들어진 ‘딥페이크 영상’은 진위를 판별해 내기 굉장히 어렵습니다. 지난 3일 윤석열 대통령의 계엄 선포조차 딥페이크 영상이 아닐까 의심하는 시민이 있었을 정도였으니까요.
과학기술정보통신부는 지난 9일 국민 597명에게 ‘딥페이크 가짜 뉴스 대응’을 주제로 설문한 결과를 발표했는데요. 응답자 중 39%가 딥페이크 가짜 뉴스를 접한 경험이 있었고, 이들 가운데 41.9%는 “딥페이크 가짜 뉴스를 진짜와 가려낼 수 없었다”고 답했다 합니다.
물론 ‘창’이 예리해지는 만큼 받아내는 ‘방패’ 또한 진화를 거듭하는 중입니다. 최근 특히 주목받는 기술은 ‘워터마크(식별 표지)’입니다. 이를테면 오픈AI는 지난 2월 인공지능(AI)이 생성한 이미지에 워터마크를 적용했습니다. 특정한 패턴을 사람 눈으로는 구별하기 어려운 픽셀 단위로 심는 방식입니다.
우리 국회 역시 딥페이크 범죄를 견제할 카드로 워터마크를 집어 들었습니다. 지난달 16일 AI기본법 제정안이 여야 간 이견 없이 국회 과학기술정보방송통신위원회 전체회의를 통과했는데요. AI 기본 모델을 제공하거나 AI 모델에서 파생된 다양한 기능을 서비스하는 ‘AI 사업자’가 불법 딥페이크물 생성을 저지할 의무를 강화한 것이 골자입니다. 법안이 통과되면 이용자가 AI 기술로 이미지나 영상 등을 만들 때, AI 사업자는 AI 생성물이라는 사실을 알리는 워터마크를 넣도록 기술적 기반을 제공하고 또 안내할 의무를 집니다.
다만 워터마크가 모든 딥페이크 문제를 단숨에 척결할 수 있는 건 아닙니다. 인도 업체인 픽셀빈은 지난해 워터마크를 지워주는 ‘워터마크 리무버’ 서비스를 내놓기도 했습니다. 그렇기에 워터마크에 의존하지 않고 딥페이크를 걸러낼 수 있는 기술도 꾸준히 연구되고 있습니다. 인텔은 2022년 영상 속 인물의 얼굴에 드러나는 정맥 색상 변화를 1000분의 1초 단위로 감지해 딥페이크 기술 적용 여부를 판별하는 ‘페이크캐처’ 서비스를 출시했습니다. 식별 정확도는 96%에 이른다고 합니다.
WEEKLY BIZ 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/146096