인공지능(AI)을 활용하는 금융사들은 위험 관리·윤리 원칙 수립을 위한 최고 의사결정 기구를 설립하고, 임직원 책임 소재를 명확히 해야 한다. AI 위험 평가체계를 구축하고 독립적인 위험 관리 조직도 구성해야 한다.
금융위원회는 서울 YWCA회관에서 권대영 부위원장 주재로 금융권 AI 협의회를 열고 이런 내용의 ‘금융 분야 통합 AI 가이드라인’을 내년 1분기 중 시행한다고 22일 밝혔다. 금융위는 2021년 발표한 금융 분야 AI 운영 가이드라인과 이후 2023년 공개한 금융 AI 보안 가이드라인 등을 통합한 새로운 가이드라인을 이날 공개했다.
금융위는 통합 가이드라인 7대 원칙으로 ▲거버넌스 ▲합법성 ▲보조 수단성 ▲신뢰성 ▲금융 안정성 ▲신의성실 ▲보안성 등을 제시했다. 세부 이행 사항을 보면 AI를 활용하는 금융사들은 위험 관리 및 윤리 원칙 수립을 위한 최고 의사결정기구 설치하고 독립적 위험 관리 전담조직을 구성해야 한다. AI 활용에 대한 임직원 책임 소재를 명확화하고, 임직원 개입이 필요한 상황을 차등화해서 규정해야 한다. AI 모델 성능을 정기적으로 관리하고, 공정성·편향성 등도 점검해야 한다.
금융사들은 AI에 대한 금융 안정 위험 평가를 실시하고 비상정지 장치와 백업모형 등 안전장치를 마련해야 한다. AI 기본법과 금융소비자보호법, 신용정보법, 개인정보보호법 등 적용 법규를 사전에 파악하고 업무 절차에 반영해야 한다. 금융소비자 이익 침해 등 이해 상충을 방지하는 등 소비자 보호대책을 마련해야 한다. 보안 위협 식별·관리, 특화 공격 탐지·대응, AI 자산 보호·관리 등 보안 장치도 구축해야 한다.
금융위는 이번 통합 가이드라인을 업권별 자율규제 형식으로 적용하면서 업계 의견을 수렴해 개선·보완해 나갈 예정이다.
이날 협의회에선 금융 데이터 결합·활용 지원 세부 방향도 공개됐다. 금융 당국은 이미지와 영상, 음성 등 비정형 데이터 및 합성 데이터 등 보다 다양한 데이터의 활용 기준을 제시하기 위해 가명·익명 처리 시 유의 사항, 체크리스트 등을 구체적으로 제시할 계획이다.
또 데이터 결합 절차 효율화를 위해 주기적·반복적 정보 결합의 경우 데이터 결합 패스트트랙 등을 통해 데이터 결합 시간 단축을 지원할 예정이다. 데이터전문기관이 결합정보를 안전하게 관리할 수 있는 환경을 갖춘 경우 결합 정보를 파기하지 않고 재사용할 수 있도록 허용해 결합 데이터의 지속적 활용과 데이터의 양적 성장도 도모할 계획이다. 이런 내용의 데이터 결합·활용 지원 방안도 내년 1월 중 시행할 예정이다.