지난달 말 공개된 삼성전자의 신형 스마트폰 갤럭시 S26 시리즈가 현실을 왜곡하고, 딥페이크(가짜 사진·영상)를 대중화할 수 있다는 비판이 제기됐다. 갤럭시S26에 탑재된 인공지능(AI) 사진 편집 기능의 성능이 너무 좋아서 벌어지는 현상이다.
삼성전자의 갤럭시 S26 시리즈엔 AI 사진 편집 기능 ‘포토 어시스트’가 있다. 일상 언어로 AI에 “배경 지워줘” 같은 지시를 하면 갤럭시 앨범 내에서 편집이 가능하다. 또 기존 이미지 편집을 뛰어넘어 실제 존재하지 않았던 반려견을 사진에 삽입하고, 한입 베어 먹은 컵케이크를 원래 상태로 복원하고, 사진 속 인물의 옷까지 바꿀 수 있다. 삼성전자 측은 “단순히 지우고 채우는 수준을 넘어 그림자와 빛 반사 등 연관 정보까지 인식해 완성도 높은 이미지를 생성한다”고 했다.
그러나 발전한 AI 기능이 담긴 갤럭시 S26이 현실 왜곡의 위험성을 가져올 수 있는 딥페이크 제조기나 다름없다는 비판이 나왔다. 미 IT 전문 매체 더버지의 팟캐스트 진행자들은 이런 기능을 강력하게 비판하며 ‘악몽(Nightmare)’이라고 표현했다. 단순히 사진을 보정하는 수준을 넘어 AI가 프레임 안에 없는 내용을 생성하거나 낮을 밤으로 바꾸는 등 사실상 사진을 ‘조작’하는 수준에 이르렀다는 지적이다. 이들은 “삼성이 이 카메라로 사람들에게 허용하는 일들은 위험한 수준을 넘어섰다”며 “(이런 기능은) 불법이어야 한다”고 주장했다.
나아가 딥페이크 범죄에 이런 기능이 악용될 수 있다는 지적도 나왔다. 팟캐스트 진행자들은 “누군가 강제로 그들을 멈추게 하지 않는 한 딥페이크 기능을 계속 상품으로 팔아치울 것”이라며 “자율 규제를 할 수 있는 척을 할 때 발생하는 폐해”라고 했다.
이에 대해 삼성은 AI가 편집한 사진에 대해서는 하단에 육안으로 보이는 워터마크를 표시한다고 해명했다. 그러나 전문가들 사이에선 워터마크는 안전장치로 충분하지 않다고 지적한다. 워터마크 부분을 잘라내거나 제거하는 또 다른 AI 도구를 사용할 수 있다. 또 사진의 출처와 AI 수정 이력을 디지털 기록으로 받아 넣는 ‘C2PA 메타데이터 태그 지정’ 등이 대안이 될 수 있지만, 이 역시 무료로 제공되는 도구들을 활용해 제거 가능하다는 비판이 나온다.