인텔·LG유플러스·카이스트, AI 판별 기술 개발
소셜미디어(SNS)에서 연예인이 등장하는 숏폼 영상을 본 적 있나요? 알고 보면 딥페이크(Deepfake) 영상인 경우가 많을 거예요. ‘진짜 같은 가짜’를 만드는 AI 기술이 발전하면서 사회적 문제가 커지고 있습니다. 딥페이크 기술이 정교해지면서 가짜뉴스도 많아졌고요, 진짜 사람처럼 능숙하게 말하는 AI를 활용한 보이스피싱(VoicePhishing)도 빈번하게 일어나요. AI로 레포트나 논문을 쓰는 일은 일찍이 논란이 됐어요. 그러나 동시에 이를 잡아내는 AI 기술도 발전하고 있습니다. AI를 AI가 잡아내는 셈이죠.
인텔은 일찍이 딥페이크를 구분하는 AI ‘페이크 캐처(FakeCatcher)’를 만들었어요. 영상에서 등장하는 인물에게 심장 박동 흔적이 있는 지 분석해 판별하죠. 사람은 심장이 뛸 때마다 피가 혈관을 타고 흐르는데, 그 때 미세하게 변하는 피부색을 감지하는 거예요.
사람 목소리를 흉내 내 보이스 피싱을 저지르는 AI를 잡아내는 AI도 생겼습니다. LG유플러스는 AI 목소리를 잡아내는 AI 기술을 개발했는데요. AI가 사람 귀에는 들리지 않지만 기계음이 내는 주파수를 감지해내는 원리예요. LG유플러스에 따르면 6월 30일부터 고객들은 이 기능을 쓸 수 있습니다.
AI가 쓴 글도 판별하는 AI 기술도 개발됐습니다. 23일, 한국과학기술원(KAIST) 팀은 AI가 만든 글을 탐지하는 AI를 세계 최초로 개발했다고 밝혔어요. AI가 만드는 글의 패턴을 찾아내 사람이 쓴 글인지 AI인지를 판별해 낼 수 있죠. KAIST 연구팀의 김용대 교수는 “AI가 이 댓글은 왜 AI가 쓴 것이라고 판단했는지, 왜 사람이 쓴 것이라고 생각했는지 이유를 설명하게 했다”고 말했어요.
문제는, ‘진짜 같은 가짜’ 콘텐츠를 AI로 만들고, 올리는 과정이 매우 간편해지고 있다는 거예요. 특히 딥페이크 콘텐츠는 걷잡을 수 없이 늘어났죠. 올해 6월 기준, 유튜브 등 소셜미디어(SNS)에서 유튜브 구독자가 가장 많이 증가한 채널 50개 중 8개는 AI 생성 영상 채널이에요. 과연 AI가 AI를 잡을 수 있을까요?
보이스 피싱(Voice Phishing): ‘목소리(Voice)‘와 ‘낚아챔(Phishing)’을 합친 단어로, 전화나 메시지를 이용해 개인 정보를 빼내거나 돈을 낚아채는 사기 수법을 말한다. 경찰, 금융기관 관계자인 척 피해자를 속이고 재산을 빼앗는다.
딥페이크(Deepfake): 인공지능 학습을 의미하는 ‘AI 딥러닝(deep learning)’과 가짜를 뜻하는 ‘페이크(fake)’를 합친 말로, AI 기술을 활용해 실제와 매우 유사하게 만든 가짜 이미지, 오디오 등을 말한다.
- AI를 활용한 범죄는 어떤 것이 있고, 무엇이 문제일까요?
- AI를 활용해 사람을 속이는 일을 잡아내기 위해, 어떤 AI 기술이 개발됐나요? 기사에서 찾아 모두 적어보세요.
