미국 국방부 청사 인근에 대형 폭발이 발생해 검은 연기가 치솟는 사진이 소셜미디어를 통해 급속히 퍼지면서 미국 주식시장이 출렁이고 금·국채 가격이 오르는 등의 혼란이 빚어졌다. 백악관이 화재에 휩싸인 이미지도 유포돼 9·11 사태와 같은 대규모 테러가 벌어진 것 아니냐는 공포가 확산됐다. 알고 보니 AI(인공지능)가 만든 가짜 뉴스였다. 금세 사실이 아닌 것으로 밝혀졌지만 시사하는 바가 크다.
챗GPT 같은 생성 AI는 사실 여부에 상관없이 그럴듯한 문장을 만들어낸다. AI가 만든 가짜 뉴스를 또 다른 AI가 학습해 더 그럴 듯하게 가짜 뉴스를 만들어낼 수 있다. 사용자 개개인의 취향에 따라 1대1 맞춤형으로 허위 정보를 생성할 수도 있다. 가짜 뉴스를 확대 재생산할 수 있어 훨씬 심각한 여론 조작이 우려된다.
내년에 대선과 총선을 앞둔 미국과 영국 등에서는 생성 AI가 만들어낼 가짜 뉴스와 여론 조작의 위험성을 계속 경고하고 있다. 그렇다고 AI 이용 자체를 막을 수도 없다. 최근 유럽연합(EU)은 무분별한 AI 사용을 규제하는 지침 초안을 발표했다. 국내에서도 해당 콘텐츠가 AI를 이용해 제작됐다는 사실을 표시하도록 의무화하는 법안 등이 발의돼 있다.
이런 규제만으로 AI발 가짜 뉴스를 통제하는 것은 사실상 불가능하다. AI의 기술 진보가 너무 빠르기 때문이다. 광우병·사드 괴담을 비롯해 온갖 허위 선동이 꼬리 무는 한국 사회는 안 그래도 가짜 뉴스에 취약한 체질이다. 여기에 AI 기술을 활용한 정교한 가짜 뉴스까지 일상화되면 진실이 뒤덮이고 허구가 판칠 위험이 있다. 지금부터 대비해야 한다.