미국 IT기업 마이크로소프트(MS)는 2016년 사람과 대화를 나누는 인공지능(AI) 채팅 못 ‘테이’를 개발했지만, 16시간 만에 운영을 중단했다. 테이가 트위터에서 사용자들과 대화를 나누다가 욕설과 인종·성차별 발언을 학습해 내뱉었기 때문이다. AI가 발달하면서 차와 로봇에 적용되고 있지만, 자율주행차가 접촉사고를 내고 쇼핑센터에서 자율주행 로봇이 어린아이에게 돌진하는 사건도 발생하고 있다.
이처럼 AI가 일상생활 속으로 들어오며 윤리 문제가 화두로 떠오르는 가운데, 우리 정부가 바람직한 AI 개발·활용 방향을 담은 윤리 지침을 발표했다.
과학기술정보통신부와 정보통신정책연구원은 27일 ‘국가 인공지능 윤리기준’을 발표했다. 정부는 인공지능·윤리학·법학 등 학계·기업·시민단체 주요 전문가들의 의견을 수렴해 국가 인공지능 윤리기준을 마련했다. 윤리기준에는 정부·공공기관, 기업, 이용자 등 모든 사회구성원이 함께 지켜야 할 주요 원칙과 핵심 요건이 담겼다.
◇인간의 존엄성·사회의 공공선·기술의 합목적성 3대 원칙
과기정통부는 “윤리기준이 지향하는 최고가치를 ‘인간성’으로 설정하고, ‘인간성을 위한 인공지능’을 위한 3대 원칙과 10대 요건을 제시했다”고 밝혔다. 모든 사회 구성원이 모든 분야에서 자율적으로 준수하며 지속 발전하는 윤리기준을 지향하는 것을 목표로 한다.
윤리기준에 따르면 인공지능의 개발·활용 과정에서 인간의 존엄성 원칙, 사회의 공공선 원칙, 기술의 합목적성 3대 원칙을 지켜야 한다. 3대 기본원칙을 실천·이행할 수 있도록 ①인권 보장, ②프라이버시 보호, ③다양성 존중, ④침해금지, ⑤공공성, ⑥연대성, ⑦데이터 관리, ⑧책임성, ⑨안전성, ⑩투명성 등 10대 요건이 충족되어야 한다.
과기정통부는 다음 달 7일 공청회를 통해 ‘국가 인공지능 윤리기준’을 소개할 예정이며, 15일까지 시민들의 자유로운 의견을 이메일로 접수할 계획이다. 공개 의견수렴을 거쳐 보완된 최종안은 12월 중순쯤 대통령 직속 4차산업혁명위원회 심의를 거쳐 확정될 예정이다.
최기영 장관은 “이번 ‘국가 인공지능 윤리기준’ 공개가 국가 전반의 인공지능 윤리 이슈에 대한 인식과 논의를 활성화함으로써 ‘사람 중심의 인공지능’으로 나아가는 기반이 되기를 기대한다”고 밝혔다.