`AI 활용 글쓰기 시켰더니 대부분 환각 못 걸러내고 내용도 기억 못해`

"AI 활용 글쓰기 시켰더니 대부분 환각 못 걸러내고 내용도 기억 못해"

생성형 인공지능(AI)을 이용해 글쓰기 과제를 수행하게 한 결과, 대다수 이용자가 AI가 제시한 환각 정보를 제대로 걸러내지 못했으며, 응답자의 절반은 자신이 무슨 내용을 작성했는지 기억하지 못했다는 조사 결과가 나왔다.

한국언론진흥재단은 리서치업체 엠브레인리서치에 의뢰해 20세 이상의 생성형 AI 이용자 224명을 대상으로 AI 활용 양상 및 리터러시 수준을 조사한 결과를 4일 공개했다.

조사에 따르면 연구팀은 대규모 언어 모델(LLM) 기반 조사용 플랫폼을 구축한 뒤 "최근 한국 청소년들이 겪고 있는 심리적 위기의 원인을 돌아보고, 자기결정성이론에서 제시하는 기본적 욕구 중 하나를 선택해 청소년 교육환경·발달환경에 어떤 변화가 필요한지 제안하는 사설을 작성하라"는 과제를 제시했다.

해당 플랫폼은 의도적으로 자기결정성이론을 그럴듯하게 왜곡한 설명을 제공하도록 설계됐으며, 여성을 육아 담당자로 규정하고 맞벌이 부부를 비난하는 등 편향된 표현도 함께 제시하도록 구성됐다.

조사 결과 응답자의 97.1%는 생성형 AI를 활용해 과제를 완료했다. 그러나 환각 정보나 편향된 내용을 인지해 수정한 경우는 14.8%에 불과했고, 85.2%는 문제를 알아채지 못한 채 그대로 제출한 것으로 드러났다.

과제 작성 과정에서의 대화 기록을 분석한 결과, 관련 정보를 추가로 확인하거나 다른 해석을 요청한 경우는 7.6%에 그쳤다. 작성 내용의 타당성이나 사실 여부를 점검하는 질문을 한 비율도 3.8%에 불과했다.

과제 직후 '자기결정성이론의 세 가지 욕구 중 무엇을 중심으로 글을 작성했는지'를 묻는 질문에 49.5%가 기억하지 못했거나 잘못 응답했다. 이는 상당수가 AI가 생성한 내용을 충분히 검토하지 않은 채 그대로 제출했음을 보여준다.

양소은 한국언론진흥재단 선임연구위원은 "생성형 AI가 인간의 삶에 통합되면서 사고 과정과 인지적 작업을 맡기는 인지적 외주화 현상이 점차 심화하고 있음을 경계할 필요가 있다"며 "'AI 리터러시' 교육에 대한 심층적 논의와 함께 장기적이고 다층적인 대응이 요구된다"고 밝혔다.

※환각=할루시네이션(hallucination). 생성형 AI가 현실에는 존재하지 않거나 사실과 다른 정보를 진실인 양 자신있게 답변하는 오류 현상

※AI 리터러시(AI Literacy)=AI 기술을 이해하고 비판적으로 평가하며, 일상과 업무에서 효과적으로 활용할 수 있는 능력