요즘 미국의 최대 화제 기업은 비상장 AI 스타트업 앤스로픽이다. 이 회사가 출시한 AI 에이전트 ‘클로드 코워크’가 법률·재무·마케팅 등 전문 영역을 대체할 수 있음을 증명하자, 미국에선 비싼 소프트웨어나 인력이 더는 필요 없다는 생각이 확산됐다. 그 여파로 오라클·세일즈포스·어도비 같은 소프트웨어 거인 기업들의 시가총액이 하루아침에 수천억 달러나 증발했다.
▶그런데 엊그제 이 기업의 AI 안전 책임자 므리난크 샤르마가 사임했다. 그는 영국 캠브리지에서 수학·통계학으로 학·석사를, 옥스퍼드에서 기계 학습(Machine Learning)으로 박사를 받은 AI 분야 석학이다. 샤르마는 동료들에게 보낸 퇴사 편지에서 “우리는 정말 놀라운 일을 해냈지만, 세상은 지금 위험에 처해 있다”고 썼다. 그리고 자신은 영국으로 시를 공부하러 가겠다고 했다. “과학은 우리에게 세상이 어떻게 작동하는지 알려주지만, 시는 세상이 우리에게 어떤 의미인지 알려준다”고 했다.
▶앤스로픽은 2021년 오픈AI 출신 연구원들이 “우리가 지나치게 상업화되면서 AI 안전에 소홀해졌다”고 비판하며 뛰쳐나와 설립했다. 그래서 이들에게 붙은 별명이 ‘양심적인 AI 기업’이다. 흥미로운 사실은 가장 안전을 강조하는 이 기업이 만든 도구가 소프트웨어 기업의 폭락을 일으켰다는 점이다. 반대로 AI 에이전트 ‘클로드 코워크’ 발표 이후 앤스로픽은 300억달러(약 40조원)의 대규모 투자를 유치했고 기업 가치는 3800억달러(약 500조원)로 폭등했다.
▶샤르마뿐 아니다. 노벨상을 받은 ‘AI 대부’ 제프리 힌턴은 자신이 만든 기술이 인류를 위협할 수 있다며 구글을 떠났고, 오픈AI의 핵심이었던 일리야 수츠케버 역시 안전보다 이윤을 앞세우는 기업 문화에 반기를 들고 사표를 던졌다. 기술의 정점에서 공포를 마주한 석학들의 잇따른 사퇴는 AI가 약속한 장밋빛 미래 뒤에 가려진 서늘한 경고등처럼 보인다.
▶샤르마는 특이하게 문학에 귀의했다. 그는 퇴사 편지에서 미국의 국민 시인 윌리엄 스태퍼드의 ‘원래 그런 것’(The Way It Is)을 인용했다. 이 시에는 “변하는 것들 사이로 실이 이어진다. 그 실을 잡고 있는 동안은 길을 잃지 않는다”는 구절이 있다. 알고리즘이 세상을 재편하는 혼돈과 격변 속에서 그는 인간다운 가치라는 실을 잡기로 한 것일까. AI가 약속한 낙원과 인류 대혼돈의 위협이라는 양 극단 사이에서 샤르마는 묻는다. 당신은 태풍 속에서도 결코 놓지 않을 자신만의 실을 갖고 있냐고.