李대통령 등장해 "월 3천만원 번다"…가짜 AI 영상, 경찰에 딱걸렸다

이재명 대통령을 활용해 AI로 만든 동영상. 페이스북 캡처

이재명 대통령이 특정 투자 플랫폼을 직접 홍보하는 것처럼 꾸며진 AI 조작 영상이 온라인에서 퍼지자, 경찰이 사실관계 확인에 나섰다.

14일 경기남부경찰청 사이버수사과는 인공지능을 이용한 투자 사기 웹사이트 '이퀄룸(EquiloomPRO)'에 대해 입건 전 조사(내사)를 진행 중이라고 밝혔다. 이퀄룸 측은 매달 안정적인 수익을 얻을 수 있다고 홍보하면서, SNS에 AI로 합성된 영상과 인터뷰 형식의 가짜 뉴스를 게시해 투자자들을 속이고 있다.

심지어 이 대통령까지 광고 영상에 등장했다. 해당 영상에는 현직 방송사 앵커가 등장해 이퀄룸을 소개한 뒤, 이재명 대통령이 나와 "삶을 바꿀 기회"라며 "월 30만원 투자 시 2400만~3000만원을 벌 수 있다고 보장한다"고 말하는 장면이 포함됐다. 인터뷰에서는 이 대통령이 18세 이상의 우리나라 국민이라면 누구든 이퀄룸에 투자해 큰 수익을 낼 수 있다고 발언하는 내용으로 만들어졌다.

영상에서는 발음이 어색하거나 문장 구성이 맞지 않는 부분도 있어, 외국인이 AI 음성합성 기술을 사용해 제작한 것으로 추정된다.

이퀄룸은 이 같은 영상을 활용해 자사 사이트 방문자들에게 이름·이메일·전화번호를 입력하게 한 뒤, 최소 35만원 이상의 금액을 입금하도록 유도하고 있다.

경찰은 대통령의 얼굴과 음성을 도용한 AI 가짜 뉴스가 등장한 점을 중대하게 보고, 지난 13일 투자 사기 혐의로 본격적인 내사에 착수했다. 현재 경찰이 확인한 동영상과 인터뷰는 총 2건이다.

경찰 관계자는 "이퀄룸에 대해 사기 혐의로 내사에 들어갔다"며 "아직까지 영상 제작자 등이 특정되지는 않았다"고 말했다.