[야고부-이호준] 딥페이크 선거

이호준 논설위원

▷6·3 지방선거가 다가오면서 딥페이크와의 전쟁도 시작됐다. 딥페이크로 허위 영상 등을 만들었다가 고발되는 사례가 속속 나오고 있다. 지선 입후보 예정자인 더불어민주당 한 지역위원장은 페이스북에 '시사 주간지 타임(TIME)이 올해 2026년 발전을 이끌 인물로 선정했다'는 내용의 영상을 올렸다가 허위 사실 공표 혐의로 9일 경찰에 고발됐다. 아나운서까지 등장한 이 영상은 내용도 허위지만, 인공지능(AI)으로 이미지를 합성(合成)한 딥페이크 영상이었음에도 AI 제작 사실을 표시하지 않아 과태료 처분까지 받았다.

▷선거 딥페이크는 우리나라만의 문제는 아니다. 최근 치러진 일본 중의원 선거에서도 논란이 됐는데, 이른바 '딥페이크 정견 방송'이 대표적이다. 주요 야당 정치인이 정장을 입고 부채춤을 추고, 중국 전통 의상인 치파오를 입고 정견 방송을 하는 모습 등 허위 영상이 제작·유포됐다. 지난 미국 대선 예비경선 때의 '바이든 가짜 전화'도 전형적(典型的)인 딥보이스(Deepvoice), 즉 오디오 딥페이크다. 예비선거 직전, 바이든 대통령 목소리를 똑같이 흉내 낸 AI 로보콜(자동 녹음 전화)이 유권자들에게 "이번 화요일에 투표하지 말고, 11월 본선거를 위해 아껴두라"며 투표 포기를 독려했다. 제작자에게 80여억원의 벌금이 부과되고 형사 기소됐다.

▷중앙선관위 등에 따르면 올 들어 지선 관련 AI 딥페이크 게시물 삭제 요청 및 수사 의뢰·고발 등 단속 건수는 벌써 수백 건으로, 지난 22대 총선 동기 대비 3배 정도 급증한 것으로 알려졌다. 딥페이크 제작 툴 보급으로 일반인도 쉽게 제작할 수 있게 된 영향이 크다. 특히 단순 홍보물을 넘어 뉴스 리포트, 유명인 추천사 등을 정교하게 위조하는 등 유권자가 '진짜'라고 믿게 만드는 기만적 수법이 늘고 있다. 그러나 나날이 발전하는 기술 탓에 일반 유권자가 보거나 듣는 것만으로는 진위(眞僞) 여부를 가려내기가 쉽지 않다.

▷이젠 '장난'이나 '풍자' 등의 변명(辨明)도 통하지 않는다. 내용이 사실이더라도 AI 표시를 누락하면 과태료 대상이고, 내용까지 거짓이면 가중 처벌을 면하기 어렵다. 유권자들도 선거 관련 영상을 가짜가 아닌지 의심하며 봐야 하고, AI 표시까지 살펴야 한다. 투표하기도 참 어려운 세상이 됐다.

hoper@imaeil.com