짧은 치마 입고 "윤어게인, 멸공!" 미모의 20대 여성…알고보니 AI

계정주 "변명의 여지 없어…죄송하다"

유튜브 캡처.

인공지능(AI)으로 생성한 젊은 여성의 이미지를 앞세워 소셜네트워크서비스(SNS) 계정을 만들고, 정치적 메시지를 확산하는 사례가 확인돼 논란이 일었다.

최근 온라인 커뮤니티엔 '극우 SNS AI 조작 충격 근황' 등 제목의 게시물들이 확산됐다. 일부 보수 지지자들이 AI로 만든 여성 사진이나 실제 인물 사진을 도용해 SNS 계정을 개설했다는 내용이다.

지지자들의 인터넷 활동을 추적해 온 황희두 노무현재단 이사는 자신의 인스타그램에 이러한 내용들을 캡처했다.

이 중 'OO조아'라는 닉네임을 쓰는 인스타그램 계정은 언뜻 20대 여성이 운영되는 것처럼 보였지만, 누리꾼들 사이에서 계정에 대한 의문이 지속적으로 제기됐다. 이후 계정주는 "OO조아는 남자"라며 지난달 사과문을 게재했다.

계정주는 "어느 시점부터 솔직하게 말씀 드렸어야 했는데 타이밍을 놓쳤다. 놀라시거나 배신감을 느끼실 분에게 사과 이외는 변명의 여지가 없다. 죄송하다"고 사과의 뜻을 전했다. 현재 해당 계정은 삭제된 상태다.

황 이사는 'OO조아'라는 인스타 계정이 만들어지기 전 또다른 SNS 플랫폼인 스레드 계정에 비슷한 이미지의 여성 사진으로 남성 극우가 활동했다는 의혹을 제기하기도 했다.

황 이사는 "젊은 여성 극우 '네임드' 계정의 정체가 결국 드러났다"며 "문제는 AI 기술이 인간의 눈만으로 진짜와 가자를 구분하기 어려운 수준까지 왔다는 것"이라고 지적했다.

이어 "단순한 기술 문제가 아니라 인간의 '인지 과정'을 공격하는 인지전의 전형적인 사례"라며 "이미지를 활용하면 정치에 관심이 적은 이용자들도 알고리즘을 통해 자연스럽게 콘텐츠를 접하게 된다. 극단적 정치 메시지 확산에 활용되는 구조"라고 설명했다.

이같이 AI로 젊은 여성의 사진을 만들어 정치적 메시지를 퍼뜨리는 사례는 최근 꾸준히 발견되고 있다.

미국에서도 '미국을 다시 위대하게(MAGA)' 운동의 아이콘으로 떠올랐던 '에밀리 하트(Emily Hart)'의 실제 인물이 인도에서 정형외과 수련의 과정을 밟고 있는 남성 '샘(가명)'이 AI로 빚어낸 가짜 인물로 밝혀진 바 있다.