29일부터 '딥페이크 영상' 활용 선거운동 금지

AI 이용 '실제와 구분하기 어려운' 가상 음향·이미지·영상 선거운동 단속

13일 오후 서울 종로구 서울특별시 선거관리위원회에서 열린 제22대 국회의원 선거 모의 개표에서 선관위 관계자들이 모의 투표용지를 분류하고 있다. 연합뉴스

오는 29일부터 딥페이크 영상을 활용한 선거운동이 금지된다.

중앙선거관리위원회는 18일 이런 내용의 딥페이크(인공지능을 기반으로 활용한 인간 이미지 합성 기술) 영상 등 선거운동 위법 행위 예방·단속 종합대책을 발표했다.

선거운동 활용이 금지되는 것은 딥페이크 영상처럼 AI 기술로 만든 '실제와 구분하기 어려운' 가상의 음향·이미지·영상 등이다. AI 기술로 만든 가상임을 표시해서 활용하더라도 법 위반이 된다.

다만 포토샵이나 그림판과 같이 사용자가 직접 조작하는 프로그램을 이용한 이미지·영상은 선거운동에 활용할 수 있다.

또한 총선 선거운동이 아닌 당내 경선 운동, 의정활동 보고, 투표 참여 권유 활동, 통상적인 정당 활동에는 AI기술로 만든 이미지를 활용할 수 있다.

선거일 90일 앞두고 딥페이크 영상의 선거운동 이용을 금지한 공직선거법 개정안은 29일부터 유효하지만, 선관위는 법안 내용에 맞춰 이미 11일부터 AI 전문가와 모니터링 전담 요원 등으로 구성된 감별반을 통해 AI를 이용한 선거운동을 단속하고 있다.

선관위 관계자는 "시각이나 범용 프로그램, AI자문위원 등을 통해 딥페이크 선거운동 영상을 적발할 경우 포털과 AI 관계사를 통해 콘텐츠를 삭제하고, 이에 불응할 시 과태료를 부과할 계획"이라고 밝혔다.