방미심위, AI 채팅 15개 사업자에 청소년 보호 강화 요구…11월 심의

집중 모니터링서 신체 노출·성행위 묘사 대화 생성 사례 적발…우회 접속 차단도 요청

21일 서울 목동 방송회관에서 방송미디어통신심의위원회가 AI 채팅 서비스 사업자 15곳과 청소년 보호 협력회의를 열고 있다. 연합뉴스

방송미디어통신심의위원회(방미심위)가 21일 AI 채팅 서비스 사업자 15곳과 청소년 보호 협력회의를 열고, 11월 중 본격적인 심의에 착수하기로 했다.

방미심위는 이날 서울 목동 방송회관에서 AI 채팅 서비스 사업자 15곳과 협력회의를 열고 유해 콘텐츠 차단과 청소년 보호조치 강화를 요청했다. 회의에서는 서비스 내 선정적 정보의 유통 실태를 공유했다.

방미심위는 집중 모니터링에서 캐릭터 이미지에 성적 신체 부위가 과도하게 노출되거나 프로필·태그·상황 설명 등에 성적 행위를 연상시키는 내용 또는 여성을 성적 대상화하는 표현이 담긴 사례를 확인했다. 이용자가 캐릭터를 선택해 대화하는 과정에서도 문제가 드러났다. 선정적인 질문이나 입력에 AI가 반응하면서 신체 노출과 성적 행위를 구체적으로 묘사하는 콘텐츠를 생성한 것이다.

방미심위는 "AI 채팅 서비스는 사업자가 선정한 AI 모델과 캐릭터·대화 상황의 설정 방식 등에 따라 그 결과와 유해성 정도가 달라진다"고 지적했다.

방미심위는 사업자들에게 AI 채팅의 입·출력 단계에서 불법·유해 정보를 탐지·차단하는 기능을 강화하고 이용자 신고 체계를 개선할 것을 당부했다. 아울러 청소년 이용 가능 콘텐츠와 성인용 콘텐츠를 명확히 구분하고, 성인용 콘텐츠에는 청소년 유해 표시를 적용하는 한편 본인인증을 통한 접근 제한 조치가 우회 접속으로 무력화되지 않도록 상시 점검할 것도 요청했다.

사업자들은 청소년 보호조치의 필요성에 공감하면서 스타트업 운영상의 어려움 등을 공유하고 실효성 있는 보호 방안을 논의했다.

이번 심의 착수는 국정감사에서 제기된 늑장 대응 지적과도 맞닿아 있다. AI 생성형 채팅앱이 등장한 2023년 이후 선정성 문제로 접수된 민원은 총 119건이며, 이 가운데 심의가 완료된 건은 3건으로 모두 증거 불충분 등을 이유로 '해당 없음' 결정이 내려졌다. 나머지 76건(약 64%)은 수개월에서 1년 이상 검토 중인 것으로 나타났다.

선정성 문제가 제기된 주요 AI 채팅앱 33개 가운데 지난해 4개 업체에 성인인증과 유해정보 관리 등 자율규제를 요청한 것이 전부였으며, AI 채팅앱 가운데 청소년유해매체물로 지정된 사례도 없었다.

조경태 국민의힘 의원(부산 사하을)은 "아동·청소년에 대한 디지털 성범죄와 유해정보 유통 속도는 빠르게 변하고 있는데 심의기구의 기준과 대응은 뒤처져 있다"고 지적했다.

방미심위는 사업자 의견을 검토하고 서비스별 유해성과 청소년 접근 제한 조치 적용 현황 등을 조사해 오는 11월 중 본격적인 심의에 착수할 예정이다.