[야고부-김수용] 인공지능 속이기

김수용 논설실장

생성형 인공지능(AI)의 등장은 과연 무엇이 진짜인가라는 근본적 물음을 던지는 계기가 됐다. 학교 시험이나 과제 작성에서 AI 활용 사례가 급증하면서 공정성(公正性) 논란도 도마에 올랐다. 워낙 정교하게 글을 써 내다 보니 인간의 능력으로는 구분하기 힘들어 AI가 쓴 글을 검증하는 데 AI에 의존하는 시대가 됐다. 내용의 옳고 그름은 여러 생성형 AI를 교차(交叉) 활용해 쉽게 판별할 수 있지만 작성자가 인간인지 여부를 밝히기는 매우 까다롭다. 최근 대학가에서 발생한 AI 부정행위에 대해 학교 측이 자수를 권고하자 "부정행위를 적발하지 못하기 때문"이라는 지적까지 나왔다. AI 생성 글을 탐지해 내는 도구를 활용해도 정확도는 60%에 못 미친다. 그런데 탐지기 맹점을 역이용하면 이조차 급격히 떨어진다. 일부러 철자를 틀리게 적거나 문장 길이를 들쭉날쭉하게 쓰면 정확도가 20%대로 낮아진다고 한다. 특히 영어 기반 AI 탐지기에 한글 작문을 넣었더니 거의 무의미한 신뢰도를 보여 줬다. 한마디로 탐지하지 못한다는 뜻이다.

특정 글이나 제품 반응을 '좋아요' 또는 '댓글' 숫자로 가늠하는데, 이것도 AI로 얼마든 조작 가능하다. 구독자나 사용자의 진정성 있는 댓글이 아니라 AI가 만든 댓글이 무한정 달릴 수 있다. 한 달에 10만원만 내면 수만 건의 댓글과 좋아요를 자동으로 만들어 준다고 한다. 최신 AI를 이용하면 댓글 한 개당 1원 안팎의 비용이 든다는데, 이쯤 되면 과연 세상에 믿을 것은 없다는 회의감(懷疑感)이 든다. AI 대량 댓글은 여론 조작에도 충분히 악용될 수 있다. 특정 뉴스에 달린 수천 건의 댓글이 인간이 쓴 것인지, 누군가 돈을 주고 교묘하게 만든 댓글인지 지금으로선 구분해 낼 방법이 없다.

유튜브 광고에 등장하는 가상(假想) 의료인이나 전문가들은 '자기 말이 틀리면 전 재산을 주겠다'는 식으로 떠드는데, 가상 인물이 재산을 갖고 있을 턱이 없다. 그런데 이런 종류의 광고 기법은 장차 사회에 가져올 파장을 상상하면 애교 수준이 불과하다. 첨단 해킹과 AI, 딥페이크가 결합하면 자칫 괴멸 수준의 정보사회 붕괴가 찾아올 수도 있다. 이처럼 두려운 예측들이 쏟아져 나오는데도 누구도 AI에 재갈을 물릴 생각을 하지 않는다는 사실이 더 두렵다. 벌써 AI가 지배하는 세상이 온 것일까.