"경찰이 몰카? 변태네" 조롱하는 여고생, 알고 보니

경찰 보디캠으로 촬영한 것처럼 제작된 인공지능(AI) 가짜 영상. 인스타그램

경찰이 폭행이나 말다툼, 음주운전 현장 등에 출동하는 장면을 인공지능(AI)을 통해 자극적으로 가공한 영상이 온라인에서 퍼지고 있다.

23일 연합뉴스에 따르면 '가짜 경찰' 출동 영상 등이 지난 10월 2일부터 한 유튜브 채널과 인스타그램, 틱톡 등에 게시되기 시작해 현재 50개를 넘어섰다. 모두 폭행이나 말다툼, 음주운전 현장에 출동한 경찰 보디캠에 찍힌 듯한 모습이다.

예컨대 부천역 인근 길거리에서 방송하던 인터넷 방송인(BJ)이 방송을 종료해달라는 경찰의 요청에 욕설하며 덤벼들다 체포되는 내용, 교복을 입고 길에서 담배를 피우던 학생이 훈계하는 경찰의 보디캠을 보고는 "경찰이 '몰카' 찍고 다님? 변태네, 진짜"라며 조롱하는 내용 등이다.

인공지능(AI)으로 만든 이 영상들은 10월 한 달 동안 인스타그램에서만 누적 조회수 1천200만회를 기록하고, 한 달 만에 틱톡 채널 팔로워 수가 9천900명을 기록하는 등 온라인상에서 화제가 됐다.

상당수 누리꾼은 가짜임을 눈치채지 못하는 상황이다. 지난달 27일 수도권에 이어 이달 초 대전까지 전국적으로 경찰 보디캠이 도입된 것과 맞물려 오해 소지가 커졌다는 평가다. 실제로 BJ 검거 영상에는 "경찰이 시민 자유를 억압한다"는 등의 비판 댓글이 달리기도 했다.

이에 경찰청은 AI로 제작된 허위 영상 유포로 인한 피해 확산을 막고자 해당 SNS 채널에 대한 입건 전 조사(내사)에 나서겠다고 밝혔다.

경찰은 채널 운영자가 자신이나 타인에게 이익 또는 손해를 가할 목적으로 허위 통신을 한 것으로 보고 전기통신기본법 위반 혐의 적용을 우선 검토하고, 삭제나 차단 조치도 병행할 예정이다.

다만 공익을 해할 목적으로 허위 통신을 한 자를 처벌할 수 있도록 규정한 조항(제47조 제1항)은 2010년 '미네르바 사건'으로 헌법불합치 결정을 받아 폐지된 상태다. 지금까지 이를 대체할 법이 나오지 않아 채널 운영자가 실제 처벌받게 될지는 불분명하다는 분석도 나온다.

내년 1월 시행을 앞둔 AI 기본법도 규제보다는 산업 진흥에 무게를 두고 있어 사회 혼란을 유발하는 AI 콘텐츠에 대한 내용을 담고 있지 않다. 이 때문에 보완 입법이 필요하다는 지적이 제기된다.