샘 올트먼 오픈AI 최고경영자(CEO), 데미스 하사비스 구글 딥마인드 CEO, 제프리 힌튼 교수, 요수아 벤지오 교수 등 AI 업계 리더들이 30일(현지시각) 인공지능(AI)의 위험을 경고하는 성명서를 발표했다. 비영리단체 AI안전센터는 이날 “AI로 인한 (인간) 멸종 위험을 완화하는 것은 전염병이나 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 전 세계에서 우선순위로 다뤄져야 한다”는 한줄짜리 성명서를 공개했다.
이 성명서에는 AI 업계 리더로 꼽히는 유명인사 350여명이 서명했다. 현재 AI 연구에서 가장 앞선 것으로 평가받는 오픈AI와 구글 딥마인드 엔지니어들이 대거 나섰다. 미라 무라티 오픈AI 최고기술책임자(CTO), 케빈 스캇 MS CTO, 구글 AI 임원 등도 서명했다. 일론 머스크나 사티아 나델라, 순다르 피차이 등 빅테크 CEO들은 서명에 참여하지 않았다.
이번 서명은 AI의 위험성을 경고하는 가장 최신 움직임이다. AI가 잘못된 정보를 퍼트리고, 일자리를 위협할 수 있다는 경고가 나오는 가운데, 업계 리더들은 최근 AI를 규제하는 것이 필요하다고 주장하고 있다. 지난 16일 샘 올트먼 오픈AI CEO는 미 청문회에 출석해, “AI 기술이 잘못되면 모든 것이 완전히 잘못될 수 있다”며 규제 필요성을 언급했고, 브래드 스미스 마이크로소프트 부회장은 지난 28일 미 CBS 방송에서 “AI로 인한 혼돈이 코로나 팬데믹 때보다 클 수 있다”고 했다. 지난 3월엔 AI의 위험성을 통제하기 위해 첨단 AI 개발을 6개월간 일시 중단하자는 서한도 나왔다. 뉴욕타임스는 “이는 AI 업계 리더들이 AI가 심각한 위험을 내포하고 있고, 엄격하게 규제되어야 한다고 주장하는 특이한 상황”이라고 했다.
AI에 대한 위험성은 소셜미디어(SNS)에서도 널리 퍼지고 있다. 트위터에는 AI를 문어 같은 형태에 촉수마다 눈이 달린 그림으로 형상화한 ‘쇼고스(Shoggoth)’라는 그림이 빠르게 퍼지고 있다.
AI가 매우 기이하고 위협적이라는 의미다. 쇼고스는 신화에 나오는 가상 괴물이다. 뉴욕타임스는 “이 농담은 AI가 무섭고 위험한 방식으로 행동하는 것을 막기 위해 안전하게 교육해야 한다는 것을 의미한다”고 했다.