[이데일리 김어진 인턴기자] 지난 1월 29일부터 딥페이크 선거운동이 전면 금지됐다. 2023년 3월 대선 당시 이목을 끌었던 각 후보의 사이버 캐릭터 ‘AI 윤석열’, ‘AI 이재명’은 4월 10일 치러질 총선에서 볼 수 없게 됐다. 그렇다면 유권자도 후보자의 딥페이크 영상을 만들면 처벌받을까? 관련 규정을 확인해 봤다.

결론부터 말하면 유권자도 딥페이크 영상을 만들면 안 된다. 작년 12월 28일 개정된 공직선거법에 따라 누구든지 선거일 전 90일부터 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시할 수 없다. 따라서 고급·전문가 버전 등 인공지능 기술을 활용한 기능이 포함된 프로그램으로 만든 음향·이미지·영상은 제한 대상이 될 수 있다. 다만 포토샵·그림판과 같이 인공지능 기술 등을 사용하지 않고 사용자가 직접 조작하는 프로그램을 이용하는 것은 제한되지 않는다. 

후보자의 AI 노래 커버 영상 등 유머 딥페이크 영상이라도 사실관계에 따라 규정을 위반할 수 있다. 선거관리위원회 관계자는 “사안마다 구체적 사실관계를 따져봤을 때, 가벼운 밈 영상이어도 사실상 선거운동을 하는 경우라면 규정에 걸릴 수도 있다”고 말했다.

딥페이크 제작물은 AI 모니터링 전담요원과 AI 전문가로 구성된 감별반이 판단한다. 기술적 한계를 보완하기 위해 시각적 탐지, 범용 프로그램 활용, AI 자문위원 감별 등 3단계 감별을 한다. 또한 포털 및 AI 플랫폼 관계사 등과 협조를 통해 위법성이 의심되는 AI 콘텐츠는 선제적으로 삭제 조치한다. 

해당 정보의 게시자, 인터넷 홈페이지 관리ㆍ운영자 또는 정보통신서비스제공자가 선거관리위원회의 삭제요청에 불응하는 경우 과태료 등이 부과될 수 있다. 선거관리위원회 문의 결과, 2회 미만 삭제요청에 불응하면 공직선거법 제261조에 따라 300만 원 이하의 과태료가 부과된다. 2회 이상 불응하면 공직선거법 제256조에 따라 2년 이하의 징역 또는 400만 원 이하의 벌금에 처할 수 있다.

또한 선거일 전 90일부터 선거일까지 선거운동을 위한 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시하는 행위를 금지하고 있는 공직선거법 제82조의8 제1항을 위반한 경우, 공직선거법 제255조에 따라 7년 이하의 징역 또는 최고 5천만 원 이하의 벌금에 처한다.

[검증결과]
공직선거법 제82조의8 제1항에 따라 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크 음향, 이미지, 영상 등을 만들어서는 안 된다. 후보자의 AI 노래 커버 영상 등 유머 딥페이크 영상이라도 구체적 사실관계에 따라 규정에 걸릴 수 있다. 해당 규정을 위반한 경우 공직선거법 제255조에 따라 7년 이하의 징역 또는 최고 5천만 원 이하의 벌금에 처한다. 또한 선거관리위원회의 삭제요청에 불응하는 경우 과태료 등이 부과될 수 있다. 따라서 ‘유권자들도 후보자들의 딥페이크 영상을 만들면 처벌받는다’는 사실로 판정한다.