“인공지능(AI)이 인간의 존엄을 무너뜨리고 있습니다.”
필립 알스턴 뉴욕대 로스쿨 석좌교수는 지난 16일 본지 인터뷰에서 “AI가 사생활을 침해하는 데다 노동 현장에서는 통제 수단으로 쓰이고 있다”며 “AI가 현대 사회에 거의 남아 있지 않은 인간적 온기마저 훼손할 수 있다”고 했다. 호주 출신의 국제법 학자인 알스턴 교수는 AI의 위험성을 경고해 온 ‘두머(Doomer·파멸론자)’로 꼽힌다. 유엔 비사법적 처형 특별 보고관, 빈곤·인권 특별 보고관 등을 지내면서 국제 인권 규범의 기틀을 다졌다.
이날 국가인권위원회 주관으로 열린 국제 인권 콘퍼런스에서 기조 연설을 한 알스턴 교수는 AI가 인간의 가장 내밀한 영역까지 파고들고 있다고 경고했다. 그는 “AI가 개인의 관심사, 구매 내용, 건강 이상 징후는 물론 ‘아내와 사이가 안 좋다’는 개인적 고민까지 모두 기록하고 있다”며 “인간의 가장 은밀한 생각과 습관, 의료 정보까지 추적·분석당하는 시대”라고 했다.
알스턴 교수는 “AI는 생산성 향상이나 실종자 추적 등 긍정적 활용 가능성도 크다”면서도 “이런 기술이 부정적으로 쓰이면 정부, 경찰, 이민 당국과 빅테크가 결탁해 개인의 모든 움직임을 추적할 수 있다”고 했다. 그는 “특히 노동 현장 활용은 심각하다. 고용주는 직원이 키보드 앞에 몇 분 앉아 있었는지, 출퇴근에 얼마나 걸렸는지까지 모두 파악할 수 있다”며 “이는 단순한 프라이버시 문제가 아니라 조지 오웰 소설 ‘1984’ 수준의 감시·통제 체제”라고 했다.
AI가 인권을 위협하는 시대, 인간다움의 가치는 무엇일까. 그는 잠시 생각에 잠긴 뒤 답했다. “그것은 인간의 온기, 따뜻한 손길, 연민, 연대입니다. 하지만 이런 것들은 AI 시대에 점점 사라져갈 위험이 있습니다. 노인이 되면 사람들은 걱정하고 공감하는 대신 챗봇을 건네줄 겁니다. 그러나 챗봇은 진짜 온기를 전할 수 없습니다. 그것은 가짜, 인위적인 따뜻함일 뿐입니다. 우리는 바로 그것을 잃을 위험에 처해 있습니다.”