아마존이 인공지능(AI) 서비스 알렉사를 통해 숨진 가족의 목소리를 재현하는 기능을 공개했다. 인간적 속성을 부여해 사용자와의 더 큰 신뢰를 쌓기 위한 것이라고 아마존은 설명했으나, 사이버 범죄 등에 악용될 수 있다는 지적도 나오고 있다.
23일(현지시각) 워싱턴포스트에 따르면, 아마존은 전날 라스베이거스 ‘리마스(re:MARS)’ 콘퍼런스에서 짧은 음성 샘플만 있어도 이를 복제해 특정인의 목소리를 흉내내는 기능을 소개했다. 이날 공개한 시연 동영상에선 한 어린이가 알렉사에게 할머니 목소리로 ‘오즈의 마법사’ 책을 읽어달라고 요청한다. 그러자 알렉사는 할머니 목소리로 전환해 책을 읽는다.
로히트 프라사드 알렉사 수석 부사장은 “알렉사의 새 기능을 통해 사랑하는 가족과의 추억을 오래 지속시킬 수 있다”고 설명했다.
다만 이 같은 기술이 사이버 범죄에 이용되거나 사망자의 개인정보 침해 등으로 이어질 수 있다는 우려도 나온다. 온라인 보안업체 소셜프루프시큐리티의 레이철 토백 최고경영자(CEO)는 “복제된 목소리를 이용해 사기, 데이터 탈취, 계정 도용 등의 범죄를 저지를 수 있다”고 경고했다.
사망자 음성 데이터에 대한 소유권이 누구에게 있는지도 관심사다. 호주 커틴대 타마 리버 인터넷학 교수는 “만약 아마존이 죽은 할아버지의 음성데이터를 소유한다면, 유족은 이에 대한 권한을 포기해야 하느냐”고 반문했다.