AI 선거운동 논란 확산…지방선거 앞두고 '딥페이크 주의보'

6월 3일 지방선거…3월 5일부터 AI 딥페이크 선거운동 전면 금지
표시 의무 미준수 시 선거법 위반 가능성…SNS 홍보 영상도 대상
안동서 AI 콘텐츠 논란 잇따라…선관위 조사 가능성 제기

한 안동시장 예비후보가 지난 14일 자신의 페이스북에 AI 기술을 활용한 정책 메시지 영상물로 현재는 삭제된 상태. 독자제공

'제9회 전국동시지방선거'를 앞두고 인공지능(AI)을 활용한 선거 홍보를 둘러싼 논란이 확산되고 있다. 특히 경북 안동 지역에서 AI 기반 영상 콘텐츠가 사회관계망서비스(SNS)를 통해 확산되면서 선거법 위반 여부와 규정 적용 범위를 둘러싼 관심이 커지고 있다.

선거관리위원회에 따르면 공직선거법과 공직선거관리규칙은 딥페이크 등 인공지능 기술을 활용한 선거운동에 대해 엄격한 제한을 두고 있다. 선거일 90일 전부터 선거일까지는 선거운동 목적의 딥페이크 영상 제작과 편집, 유포, 상영, 게시가 전면 금지된다.

오는 6월 3일 실시되는 제9회 전국동시지방선거의 경우 지난 5일부터 이러한 규정이 적용 중이다. 이 시점 이후 AI 기술을 활용한 딥페이크 선거운동은 원칙적으로 허용되지 않는다.

또 인공지능 기술로 제작된 영상이나 이미지를 선거 홍보에 활용할 경우에는 실제 상황이 아닌 가상 정보임을 명확히 밝혀야 한다. 공직선거관리규칙은 이 경우 전체 화면 크기의 10% 이상 크기의 테두리 안에 '실제가 아닌 인공지능 기술 등을 이용해 만든 가상의 정보'라는 표시를 하도록 규정하고 있다.

이런 가운데 안동에서는 한 안동시장 예비후보가 지난 14일 자신의 페이스북에 AI 기술을 활용한 정책 메시지 영상을 게시했던 사실이 알려지며 논란이 일었다. 해당 영상은 현재 삭제된 상태다.

특히 이 영상에는 '실제가 아닌 인공지능 기술들을 이용하여 만든 가상의 정보'라는 안내 문구가 전체 화면 크기의 10% 이상 테두리 안에 표시되지 않은 것으로 보인다는 지적도 제기되고 있다.

앞서 권기창 현 안동시장을 찬양하는 내용의 노래가 AI 기술로 제작·유포되면서 선거관리위원회로부터 과태료 처분이 내려지고 경찰 조사까지 이어진 사례도 있었다. 이처럼 AI 콘텐츠를 둘러싼 선거법 논란이 지역 정치권에서 잇따르면서 경각심도 커지는 분위기다.

지역 정치권 안팎에서는 해당 SNS 게시물 역시 딥페이크 선거운동 규정 적용 대상이 될 수 있는지 여부를 두고 선관위의 조사가 불가피할 것이라는 관측이 나오고 있다. 특히 선거일 90일 전부터 딥페이크 선거운동이 금지되는 만큼 AI 영상 활용 과정에서 규정 위반 여부가 쟁점이 될 수 있다는 분석이다.

선관위는 딥페이크 영상 등 인공지능 기반 콘텐츠가 유권자의 올바른 판단을 저해할 수 있는 만큼 엄정하게 대응하겠다는 입장이다.

선관위 관계자는 "딥페이크영상등 이용 선거운동 관련 위반행위와 허위사실 공표, 비방은 선거의 공정성을 심각하게 훼손할 수 있다"며 "앞으로 특별 대응 체계를 통해 위반 행위를 집중 점검하겠다"고 밝혔다.

한편, 정치권에서도 AI 기술이 선거 홍보 수단으로 빠르게 확산되는 만큼 후보자와 선거 캠프의 신중한 대응이 필요하다는 지적이 나온다. 자칫 무분별한 AI 콘텐츠 활용이 의도치 않은 선거법 위반으로 이어질 수 있기 때문이다.

전문가들은 "AI 기술은 선거 홍보 방식에 새로운 가능성을 열어주지만 동시에 허위 정보 확산과 딥페이크 문제라는 위험성도 함께 갖고 있다"고 지적하면서 "후보자와 캠프 모두 관련 규정을 정확히 이해하고 활용 범위를 신중히 판단해야 한다"고 말했다.