앞으로 생성형 AI(인공지능)로 만든 그림이나 영상을 온라인에 올릴 때에는 ‘AI 생성물’이라는 사실을 표시해야 한다. 이 그림·영상을 받아서 다시 올리는 사람이 ‘AI 생성물’ 표시를 가리거나 지워서도 안 된다. 포털 사이트나 온라인 플랫폼 사업자는 이용자들이 그림·영상을 올릴 때 AI 생성물이라고 표시할 의무가 있다는 것을 알려야 한다.
국무총리실은 정부가 10일 오전 정부서울청사에서 김민석 국무총리 주재로 제7회 국가정책조정회의를 열어 이 같은 내용의 ‘AI 등을 활용한 시장 질서 교란 허위·과장 광고 대응 방안’을 채택했다고 밝혔다.
이 방안에 따르면, ‘AI 생성물을 직접 제작·편집해 게시하는 자’는 누구나 ‘직접 정보 제공자’로 분류된다. 이 직접 정보 제공자는 자기가 온라인에 올리는 콘텐츠가 AI 생성물임을 표시해야 한다. 이 AI 생성물 표시는 AI 생성물을 올린 사람뿐 아니라 다른 사람도 임의로 제거해서는 안 된다. 위반자에게는 과태료가 부과된다.
포털과 플랫폼 사업자는 이용자들에게 AI 생성물을 올릴 때에는 AI 생성물이라고 표시해야 한다는 고지 의무가 생긴다. 이 의무를 이행하지 않은 사업자에게도 과태료가 부과된다.
정부는 “AI 기술을 이용한 광고 등의 무분별한 유통을 방지하기 위해서는 소비자가 AI 생성물이 실제가 아니라는 점을 정확히 인식할 수 있어야 한다”며 이를 위해 ‘직접 정보 제공자’에게 AI 생성물 표시 의무를 부과한다고 밝혔다.
다만 이번 조치가 곧바로 시행되는 것은 아니다. 정부는 내년 3월까지 정보통신망법을 개정해 이후 시행할 계획이라고 밝혔다.
포털 사이트나 온라인 플랫폼에 올라오는 허위·과장 광고를 차단하는 절차도 강화된다. 식품의약품안전처나 공정거래위원회 등 정부 기관들이 보기에 허위·과장 광고로서 국민의 생명과 재산에 피해가 예상되는 콘텐츠가 올라온 경우, 정부 기관들이 방송미디어통신위원회에 해당 콘텐츠의 삭제를 요청할 수 있게 된다. 그러면 방미통위가 방송미디어통신심의위원회(방미심위)에 해당 콘텐츠의 불법성을 심의해 달라고 요청하되, 방미통위는 이 심의 결과가 나오기 전이라도 포털·플랫폼 사업자에게 ‘임시 조치’를 요청할 수 있게 된다. 그러면 포털·플랫폼 사업자는 해당 콘텐츠를 일단 차단해야 한다. 방미심위가 불법 콘텐츠라고 판정하면 차단 상태가 유지되고, 불법 콘텐츠가 아니라고 판정하면 차단이 해제된다.
정부는 이 ‘긴급 시정 요청’ 절차를 도입하기 위해 내년 말까지 정보통신망법을 개정하겠다고 밝혔다.
정부는 앞으로 광고에 ‘가상 인간’을 등장시킨 경우, 이 인물이 가상 인간임을 표시하지 않았다면 모두 불법 광고로 판정하겠다고 했다. 또 광고에서 가상 인간이 식품이나 의약품을 추천하는 것은 모두 불법화하겠다고 했다. 현행법은 의사 등 전문가가 식품이나 의약품을 추천하는 것을 금지하고 있는데, 가상 인간이 추천하는 것은 명시적으로 금지하고 있지 않다. 정부는 내년 상반기까지 식품표시광고법과 약사법, 화장품법, 의료기기법 등 관련 법을 모두 고쳐 가상 인간의 식품·의약품 추천을 금지하겠다고 했다.
정부는 또 AI를 활용한 허위·과장 광고로 이득을 본 사업자에 대해서는 징벌적 손해배상을 물리는 제도 도입을 추진하기로 했다.
김 총리는 회의에서 “허위·과장 광고가 극심하다. SNS를 통해 급속히 확산되고 있다”며 “(이 가운데는) 생성형 AI 등 신기술을 악용하는 것들이 있어서, 정부는 이를 시장 질서를 교란하고 소비자에게 피해를 주는 중대한 범죄 행위로 판단하고 있다”고 했다.
김 총리는 그러면서 “AI를 활용한 허위·과장 광고에 대해 사전 유통 예방뿐 아니라 신속한 사후 차단도 추진하고자 한다”며 “AI 생성물 표시 의무제를 도입하고, 허위 광고 시정에 필요한 심의 속도를 단축하며, 과징금을 대폭 상향하고, 징벌적 손해배상을 도입할 것”이라고 했다.