오픈AI·구글 딥마인드·앤스로픽 등 글로벌 생성형 인공지능(AI) 선두 기업의 전현직 직원 13명이 4일 AI의 위험을 경고하는 공동 성명을 냈다. 무섭게 질주하는 빅테크들의 범용인공지능(AGI) 개발 경쟁이 진행되는 가운데, 필요시 어떤 보복도 없는 ‘내부자 고발’을 허용해달라는 것이다.
13명의 전현직 직원은 이날 ‘첨단 AI에 대해 경고할 권리’라는 제목의 공동 성명에서 “AI가 인류에 전례 없는 혜택을 제공할 수 있다는 잠재력을 믿지만, 이런 기술로 인해 발생하는 심각한 위험도 인지하고 있다”고 했다. 그러면서 “이러한 위험은 기존 불평등의 고착화에서 조작된 정보, 잠재적으로 인류 멸종을 초래할 자율AI시스템의 통제 상실 등 다양하다”고 지적했다. 서명자로는 오픈AI 전현직 직원 11명, 구글 딥마인드 및 앤스로픽의 전현직 2명이 이름을 올렸다.
이들은 오픈AI·구글 등 빅테크의 투명성 저하 문제를 지적했다. “AI회사는 상당히 많은 비공개 정보를 보유하고 있고, 현재로서는 이들 정보를 정부 및 시민 사회와 공유할 의무가 없는”데다, “그들이 자발적으로 정보를 공유할 것이라 생각하지 않는다”는 것이다.
이 때문에 이들은 이 같은 기업에 재직한 전혁직 직원이 ‘회사에 책임을 물을 소수자’라고 주장했다. 하지만 그들은 회사와 체결된 기밀 유지 계약이 AI에 대한 우려 사항을 표명할 수 없다고 토로했다.
이에 따라 이들은 “회사를 비판하는 것을 금지하는 계약을 체결하지 않으며, 비판에 따라 경제적 이익을 방해하는 방식으로 보복하지 말아야한다”고 했다. 또 “AI회사들은 공개 비판의 문화를 지원하고, (AI의) 위험 관련 기밀 정보를 공개적으로 공유하는 직원들에 보복하지 말 것”을 요구했다.
이 같은 공동 성명은 오픈AI가 지난해 설립했던 AI안전 연구팀인 ‘수퍼얼라인먼트’ 팀을 해체한지 약 3주만에 나오게 됐다. 앞서 지난달 오픈AI는 샘 올트먼 축출 사태의 중심에 있었던 일리야 수츠케버 오픈AI 전 최고과학자가 이끌고 있는 안전팀을 해체했고, 수츠케버와 해당 팀에서 일하던 직원들 다수가 회사를 떠났다.
그런 가운데 오픈AI 직원들은 퇴사시 회사를 비방할 경우 기존에 받았던 주식 등을 몰수 당할 수 있다는 엄격한 기밀유지계약서에 강제로 서명해야했다는 폭로가 나왔다. 올트먼 CEO는 “이 같은 계약이 존재한다는 점에 사과”한다며 직원들에 불이익이 가지 않을 것이라 해명했지만, AI의 성능이 빠르게 좋아지는 가운데 적절한 위험 경고를 하는 행위를 막지 말아달라는 성명이 나오게 된 것이다. 테크 업계 관계자는 “오픈AI가 최근 이사회를 중심으로 ‘안전 위원회’를 다시 구성했지만, 내부적으로는 동요가 큰 상황”이라며 “AGI에 가까워지는 강력한 AI의 공개를 앞두고 내부적으로 올트먼 견제세력이 없어진 것에 대해 직원들의 경각심이 커졌다는 의미”라고 말했다.