생성형 인공지능(AI)을 이용한 가짜 콘텐츠 유포가 잇따르는 가운데, 챗GPT 개발사 오픈AI가 미국 대선에 개입하는 이란 계정을 차단했다.
16일 오픈AI는 이란의 ‘스톰-2035′이란 이름의 작전에 이용된 챗GPT 계정을 삭제했다. 이 계정의 이용자들은 챗GPT로 미국 대선 후보들에 대한 논평 등의 콘텐츠를 생성한 뒤 이를 소셜미디어와 웹사이트에 공유했다. 오픈AI는 “장문의 기사와 짧은 소셜미디어 댓글을 생성하는 데 챗GPT가 사용됐다”고 했다.
챗GPT로 작성된 기사는 뉴스 매체로 가장한 웹사이트 5곳에 게시됐다. 영어와 스페인어로 작성된 댓글은 X(옛 트위터)와 인스타그램에 올라왔다. 여기엔 미국 대선 외에도 이스라엘과 팔레스타인 하마스 간 전쟁, 이스라엘의 올림픽 참가 등 국제 분쟁과 관련된 민감한 주제도 포함됐다.
다만 이란 계정의 작전은 성과를 거두지 못한 것으로 나타났다. 소셜미디어 게시물에 ‘좋아요’나 공유, 댓글이 거의 없었다. 웹사이트에 올라온 기사도 소셜미디어에 공유되지 않았다. 오픈AI는 “(가짜 정보를 생산하지 않으려는) 우리의 정책을 위반하려는 추가 시도를 계속 모니터링하고 있다”고 했다.
앞서 지난 5월에도 오픈AI는 여론 조작을 시도하는 계정을 차단했다. 3개월간의 추적 끝에 챗GPT를 이용한 작전 5건을 확인했다. 러시아 2곳과 중국, 이란, 이스라엘 각 1곳이 포함됐다. 이들 역시 챗GPT로 짧은 댓글과 다양한 언어로 된 긴 기사를 생성해 작전을 벌였다. 오픈AI는 “게시물은 러시아의 우크라이나 침공, 가자 전쟁, 인도 선거, 유럽·미국의 정치 등 분란을 일으킬 수 있는 주제에 초점을 맞췄다”고 했다.
