북한이 챗GPT를 해킹에 활용한 것으로 나타났다. 북한이 해킹에 생성형 인공지능(AI)을 활용하는 것으로 추정돼왔지만 실제 사용이 확인된 건 이번이 처음이다.
14일(현지 시각) 챗GPT 개발사인 오픈AI와 마이크로소프트(MS)는 북한을 포함해 중국, 러시아, 이란 등 세계 해커 집단들의 챗GPT 이용 사실을 감지하고 이들 계정의 사이트 접근을 차단했다고 밝혔다.
MS는 관련 보고서에서 해킹 조직들이 피싱(사기) 이메일을 작성하거나 기술적 문제 해결을 위한 정보 수집에 챗GPT를 사용했다고 밝혔다. MS는 국가가 지원하는 사이버 조직들이 공개된 AI 기술을 이용해 해킹 능력을 향상하고 있다고 진단했다.
특히 MS는 북한의 해커 조직 ‘에메랄드 슬릿’이 생성 AI를 해킹에 활용했다고 명시했다. MS는 “에메랄드 슬릿이 자사 서비스를 활용해 북한을 연구하는 외국 싱크탱크를 조사한 것으로 나타났다”며 “이밖에 피싱 메일 초안을 작성했다”고 밝혔다. 에메랄드 슬릿은 북한 해킹 조직 ‘김수키’의 또 다른 이름으로 김수키는 그간 한국, 미국, 일본의 군 당국과 정부 기관을 공격해 주요 첩보를 빼돌려 왔다.
구체적으로 MS는 김수키가 국제적으로 평판이 좋은 학술 기관이나 NGO를 사칭해 특정인을 목표로 하는 피싱 공격인 ‘스피어 피싱’을 벌인 것으로 확인했다. 북한에 대한 전국 지식을 가진 개인들에게 메일을 보낼 때 오픈AI의 챗GPT나 대규모언어모델(LLM)을 활용해 피해자가 답장을 보내도록 유인했다는 것이다.
사이버보안업체 TRM랩스의 에어리 레드보드는 이날 RFA에 “북한 해커들이 앞으로 (생성AI와 같은) 신기술을 더 받아들일 것으로 관측된다”며 “사법기관과 안보부처가 이런 위협에 맞서기 위한 노력이 필요하다”고 강조했다.
북한 뿐 아니라 러시아군 연계 조직 포레스트 블리자드, 중국 연계 조직 차콜 타이푼과 사몬 타이픈, 이란 연계 조직 크림슨 샌드스톰 등이 MS의 AI를 활용한 사실도 확인됐다. 특히 포레스트 블리자드는 우크라이나 전쟁과 관련해 위성 통신과 레이더 기술에 대한 연구에 챗GPT를 활용했다. 이란의 이슬람혁명수비대와 관련된 해커 집단은 컴퓨터 보안 시스템 우회법을 모색하는 과정에 챗GPT의 도움을 받은 것으로 나타났다.
MS는 “해커집단들의 챗GPT 이용 사실을 감지하고, 이들의 사이트 접근을 차단했다”면서도 “이들이 참신하고 새로운 공격방법을 찾아냈다는 증거는 아직 발견되지 않았다. 해커들도 일반 컴퓨터 사용자들처럼 생산성을 높이는 데 오픈AI를 사용한 것”이라고 설명했다.
에드워드 아모로소 뉴욕대 교수는 영국 가디언에 “AI와 대규모 언어 모델의 사용이 당장 눈에 띄는 위협이 되지 않을 수 있지만 결국 모든 국가 군사력의 공격에서 가장 강력한 무기 중 하나가 될 것”이라고 우려했다.