[시대의 창-윤창희] AI가 만들어내는 '정교한 오류'와 한국 민주주의의 새로운 취약성

윤창희 한국지능정보사회진흥원 수석연구원

한국 사회는 세계 어느 나라보다 정보환경 변화에 민감하다. 높은 스마트폰 보급률, 포털 중심의 뉴스 소비 구조, 빠른 정치적 반응 속도, 그리고 선거를 앞두고 폭발적으로 증가하는 여론전까지 더해지면, AI가 만들어내는 '정교한 오류'는 단순한 기술 문제가 아니라 민주주의의 기반을 뒤흔들 수 있는 새로운 위험으로 변모한다.

특히 한국의 선거 환경은 짧은 기간에 집중적으로 여론이 형성되고, 이슈가 급격히 확산되는 특성이 있다. 총선을 앞두고 특정 발언이 '있었던 것처럼' 만들어지는 허구 인터뷰, 실제 존재하지 않는 정책안이 '이미 발표된 것처럼' 유통되는 상황은 더 이상 가상의 위협이 아니다.

생성형 AI는 정치인의 말투와 억양, 특정 정당의 문체, 기자의 기사 스타일까지 모사할 수 있어, 전통적인 의미의 가짜 뉴스보다 훨씬 자연스럽고 설득력 있는 허구를 만들어낸다. 이는 팩트 체크가 개입할 시간조차 주지 않은 채 여론의 초기 흐름을 장악한다.

한국 정치의 특징인 극단적 양분화 구조는 이 문제를 더 복잡하게 만든다. 동일한 사건도 서로 다른 프레임으로 소비되는 상황에서 AI는 각 진영이 선호하는 이야기 구조를 정교하게 맞춤 생산한다. 개인화 알고리즘은 사용자가 원하는 '정치적 현실'을 보여주기 때문에 서로 다른 진영은 사실을 공유하지 않은 채 감정과 인상만 강화된 정보를 받아들인다. 결국 여론 형성의 출발점이 흔들리고, 공적 사실을 기반으로 한 정책토론이 점점 어려워진다.

문제는 AI가 만드는 정보 왜곡이 반드시 악의적 의도로 만들어지는 것도 아니라는 점이다. 불완전한 학습 데이터, 과거 자료의 편향, 인터넷 상의 미확인 정보가 모델 내부에서 혼합되면서 자연스럽게 생기는 오류도 한국 사회에서는 '진짜 뉴스'처럼 받아들여질 가능성이 크다. 온라인 커뮤니티와 포털 댓글 구조는 이러한 오류에 빠르게 의도성을 부여하고, 특정 집단을 공격하거나 정치적 의심을 증폭시키는 도구로 활용될 수 있다.

이제 한국에서는 정보의 진위 판단이 단순한 사실 확인을 넘어, 사회적 신뢰의 붕괴를 막기 위한 정책적 과제가 되고 있다. 총선이나 대선 기간 중 AI 기반 정보가 공론장을 왜곡할 가능성은 이미 여러 연구에서 지적되고 있으며, 해외에서도 유사한 사례가 증가하고 있다. 한국 역시 더 이상 소극적인 모니터링이나 사후 규제로는 대응하기 어렵다.

정책적으로는 몇 가지 새로운 기준이 필요하다. 첫째, 공직선거에서 사용되는 AI 기반 콘텐츠에 대해 생성 과정의 투명성을 확보해야 한다. 예컨대 선거 캠프나 정치 단체가 AI로 제작한 영상·음성·문장을 배포할 때 이를 표시하는 '자동 생성물 표기 규범'을 도입할 수 있다.

둘째, 포털과 SNS 플랫폼은 정치적 콘텐츠에 한해 알고리즘 추천의 투명성을 주기적으로 공개하는 검증 체계를 마련해야 한다. 이는 표현의 자유를 침해하지 않으면서도 플랫폼의 책임성을 강화하는 현실적인 방식이다. 셋째, 공공영역에서 활용하는 AI는 사실 검증 기능, 출처 추적 기능, 편향 모니터링 기능 등 안전장치를 의무적으로 구축해야 한다.

더 나아가 시민 교육도 필요하다. AI가 생산한 문장과 사람이 쓴 문장을 구별하는 것은 점점 어려워지고 있으며, 한국 사회의 빠른 정보 소비 속도에서는 잘못된 인상 하나가 여론 전체의 방향을 바꿀 수 있다. 따라서 시민들이 정보의 신뢰성과 출처를 비판적으로 평가하는 능력을 갖출 수 있도록, AI 정보 리터러시(이해·활용 능력)를 공교육과 성인교육 체계에 포함하는 방안도 고려해야 한다.

결국 한국 사회는 AI 정보환경에서 민주주의가 어떻게 유지될 수 있는지에 대한 새로운 질문에 직면해 있다. 가짜 뉴스는 더 이상 가장 큰 위협이 아니다. AI가 만드는 자연스럽고 설득력 있는 오류, 그리고 이를 둘러싼 플랫폼과 여론의 구조적 취약성이 한국 정치 문화를 더욱 불안정하게 만들고 있다.

공적 사실을 지키고 사회적 신뢰의 기반을 유지하기 위해서는 기술·정책·사회적 합의가 모두 결합된 새로운 윤리 기준이 필요하다. 한국 민주주의가 앞으로도 지속되기 위해서는 지금 이 기준을 세우는 일이 무엇보다 시급한 과제가 되고 있다.