인공지능(AI) 혁명은 2016년 바둑 AI 알파고가 세계 챔피언 이세돌 9단을 꺾으며 시작됐다. 구글 딥마인드 CEO 데미스 허사비스는 당시 “우리가 달에 착륙했다”고 환호했다. ‘알파고의 창시자’ 허사비스는 여기서 멈추지 않았다. 단백질 구조를 예측하는 AI를 개발해 2024년 노벨 화학상을 받았다.
그런 허사비스가 지난달 인도에서 열린 ‘AI 임팩트 정상회의’에서 급속한 기술 발전이 가져올 위험성을 경고했다. AI의 엄청난 힘을 세상에 풀어놓는 순간 제어하기가 어렵기 때문이다. 그는 악의적 행위자들의 AI 기술 오남용, 시스템이 통제력을 상실할 가능성을 우려하며 “강력한 안전장치 구축이 시급하다”고 강조했다.
며칠 후 AI가 지휘에 관여한 미국의 이란 공습에서 초등학교를 오폭하는 참사가 일어났다. 숱한 정보를 AI가 분석해 표적 식별부터 좌표 제공, 효율적 타격의 우선순위까지 결정했다고 워싱턴포스트는 전했다. 미군은 단기간에 탁월한 전과를 올렸지만 이란 해군 기지 일부가 초등학교로 바뀐 정보가 반영되지 않았고, AI의 판단에 대한 검증을 소홀히 하는 바람에 민간인 170여 명의 죽음을 막지 못한 것이다.
기술 혁명은 종종 재앙을 동반한다. 그 기술이 본질적으로 나빠서가 아니라 우리가 그것을 지혜롭게 사용하는 데 시간이 걸리기 때문이다. 산업혁명도 그랬다. 기술의 축복은 더 풍요로운 세상을 약속했지만 그 과정에서 무자비한 제국주의와 전례없는 살인 기계가 등장했다. 나치즘은 산업사회를 제대로 건설하는 방법을 배우느라 치른 값비싼 실험이었다.
역사학자 유발 하라리는 베스트셀러 ‘넥서스’에서 “오늘날 사람들은 나치의 만행에 경악하지만, 당시엔 수백만 명이 그들의 대담한 비전에 매료됐다”며 “AI를 선도하는 두세 국가가 군사·경제적으로 세계를 압도하면서 ‘AI 제국화’를 시도할 수 있다”고 우려했다. AI는 핵폭탄보다 훨씬 더 강력하고 파괴적이며, 투옥도 살해도 두려워하지 않는다. 따라서 우리는 실수할 여유가 없다.
더 큰 문제는 AI 추천과 결정에 의존할수록 민주주의가 위협받는다는 점이다. 소셜미디어(SNS)에 분노와 혐오, 가짜 뉴스가 많은 것은 그래야 참여도가 높아지기 때문이다. 그 편향성이 공론장과 민주주의를 흔든다. 2022년 미국의 한 연구에 따르면 트위터(현재 X) 사용자의 5%가 봇(bot)이었지만 그들이 전체 콘텐츠의 21~29%를 만들었다. 공론장에 들리는 목소리의 상당수를 인간이 아닌 AI가 생성한다고 상상해 보라.
알고리즘은 진실에 관심이 없다. 어떻게 하면 우리의 주의를 끌 수 있을까에 대해서만 관심을 갖는다. 조회 수가 돈과 직결되기 때문이다. 따라서 사람들은 가장 악랄한 콘텐츠를 가장 많이 보게 된다. 첫번째 영상이 끝나는 즉시 알고리즘은 사용자를 화면 앞에 붙들어두기 위해 증오로 가득한 또다른 영상을 자동 재생한다. 다시 말해 사람들은 무엇을 볼지 스스로 선택하지 않는다. 알고리즘이 대신 선택해 준다. SNS에서는 드라마와 예능, 뉴스를 구분하기가 점점 더 어려워진다. 정치인들도 이 문제를 악화시키고 있다. 진실에 다가갈 고민은 하지 않고 분노나 혐오, 지지층 결집 등 ‘감정 버튼’을 눌러 쉽게 주목받으려 한다.
관심을 놓고 경쟁하는 유튜버들이 터무니없는 영상을 올려도 알고리즘은 그것을 추천한다. 매일매일이 그 문제점들의 전시장처럼 보인다. 내버려두면 자정 작용이 일어날까? 천만의 말씀이다. 값싸고 단순하지만 매력적으로 보이는 허구가 쏟아져 나와 공론장을 잠식할 것이다. 진실은 밑바닥으로 가라앉는다. AI는 또 이렇게 왜곡된 데이터베이스를 가지고 세상을 학습할 것이다.
다시 허사비스의 경고를 새기자. AI 혁명은 산업혁명보다 10배 크고 10배 빠를 것이다. 안전하고 책임 있게 AI를 도입하려면 서두르지 말고 신중해야 한다. 안전장치 중 하나는 AI가 자신의 오류 가능성을 인식하도록 훈련시키는 것이다. 예상 못한 부작용과 위험, 시스템 오류에 대비한 국제적 협력과 스마트한 규제가 선행돼야 한다. ‘AI의 추천을 거부할 자유’는 인간이 양도하면 안 되는 최후의 보루다.