9월 11일부터 이틀간 로마 바티칸 교황청의 초청으로 신학학술원 국제 세미나의 발표자로 참석했다. 다음 날에는 교황을 알현하고 강론을 경청하는 시간도 가졌다. ‘창조, 자연, 환경, 평화로운 세상을 위하여’라는 세미나의 전체 주제가 함축하듯 오늘날 인류가 직면한 시대사적 문제와 인류의 공공선을 위한 폭넓은 생각을 나누는 자리였다. 관심거리는 단연 인공지능(AI)이었다. AI는 인간 존엄에 대한 새로운 도전이다. 오늘날 사회 교리는 AI라는 복잡한 세계에 대한 현명한 대답을 제시하도록 요구하고 있다.
지난 5월 취임한 교황 레오 14세는 인류가 직면한 가장 중대한 과제 중 하나로 AI를 지목한다. 교황은 AI에 어떻게 대응할 것인지에 대해 적극적으로 표현하고 있다. 교황의 첫 공식 연설에서도 AI의 인간 존엄성에 대한 도전을 경고했다. 특히 청소년들에게 지적·영적 발전에 부정적 영향을 미친다는 점을 중시하면서 AI 규제의 필요성을 강조한다. 그러나 교황청과 구글, 오픈AI 같은 핵심 기업 사이에는 견해 차이가 분명하다. 간단히 말해 기업들은 자율적 규제, 자율적 윤리 가이드라인을 선호하는 반면 교황청은 자율 규제로는 한계가 있다는 입장이다.
우려되는 것은 AI 기술의 발전이 상상을 초월할 정도로 빠르다는 점이다. 2040년쯤에나 달성할 것으로 전망한 AI 미래 수치들이 이미 올해 달성됐다는 평가가 나온다. 공포에 가까운 발전 속도다. 특히 미국과 중국 두 강대국이 마치 이종 격투기와 같은 퇴로 없는 결전의 양상을 보이면서 기술의 극단적 가속이 자명해졌다. 브레이크 없는 AI 기술의 가속화가 초래한 사회적 위험은 이미 감당하기 어려울 만큼 현실화하고 있다. 앞으로 초래될 사회적 위험은 지금의 예상 범위를 훨씬 넘어설 것이 분명하다. 그러나 이에 대한 대처 목소리나 행동은 거의 침묵에 가깝다.
교황청 세미나에서 필자는 AI 위험 속에서 인간 존엄성과 청소년 보호의 절박성을 피력했다. 진짜 문제는 기술 그 자체가 아니라, 기술을 이끌어갈 윤리의 부재다. 오늘날 AI 기업들은 막대한 힘과 강력한 지위를 가지고 있다. 이 기업들은 ‘큰 힘에는 큰 책임이 따른다’는 격언을 그 어느 때보다 깊이 새겨야 한다. 책임이란 곧 윤리이다. 이를 위해 정부, 기업, 시민사회, 종교가 함께하는 전례 없는 접근이 필요하다. 더 높은 권위의 규범과 실행의 제도적 틀을 확립하는 것이다.
현시점에서 시급한 세 가지 실행 방안을 제안했다. 첫째, AI 윤리 가이드라인을 수립해야 한다. 격변하는 시대 상황을 반영하는 구체적이고 실질적인 AI 윤리 선언이 필요하다. 둘째, AI 플랫폼 평가지수를 마련해야 한다. 이것을 토대로 매년, 매월, 가능하다면 매일 AI 플랫폼의 콘텐츠를 점검하고 유해 내용을 삭제하는 적극적 관리가 필요하다. 셋째, 위기에 처한 피해자들을 위한 보호 매뉴얼을 만들어야 한다. 회복과 예방을 위한 시작이다.
AI 시대의 기본 모습을 ‘윤리 사회’로 설정해야 한다. 그래야 오늘날 전개되는 AI 디지털 혁명이 진정한 의미의 문명사적 전환으로 안착할 수 있을 것이다. 정부가 추진하는 ‘AI 3대 강국’의 비전에는 ‘AI 윤리 1등 사회’의 가치와 전략이 동반돼야 한다. 그래야 ‘K-AI’도 지속 가능한 온전한 모습으로 완성될 것이다.