성적도구화 논란 AI 챗봇 '이루다' 서비스 중단…"개선 위해"

이루다. 인스타그램

최근 AI(인공지능) 윤리 논란에 휩싸인 챗봇 '이루다' 서비스가 잠정 중단되는 것으로 11일 알려졌다. 서비스 개선이 이유이다.

김종윤 스캐터랩 대표는 관련 입장을 밝히겠다고 이날 오전 언론에 공지했고, 이날 저녁 서비스 잠정 중단이라는 입장을 내놓은 것이다.

앞서 이날 한국인공지능윤리협회는 성명을 내고 "이루다가 AI 윤리 가이드라인을 지키지 못하고 출시됐다"며 서비스 중단을 요구한 바 있다.

이루다는 스캐터랩 핑퐁팀이 개발한 고지능 열린 주제 대화형 인공지능(Open-domain Conversational AI) 챗봇이다. 최근 페이스북 메신저 채팅을 통해 서비스가 이뤄져 왔다.

이루다에 대해서는 AI의 편향성, 개인정보 유출 의혹, 오용 및 악용 문제가 제기됐다.

편향성의 경우 최근 장애인, 임산부 등에 대한 편향된 내용이 이루다의 채팅 속 발언 등을 통해 확인되면서 지적 대상이 됐다.

개인정보 유출 의혹의 경우 앞서 이루다가 개인들의 카카오톡 대화 내용 및 그 속에 담긴 개인정보를 학습한 것을 두고 관련 명확한 고지가 없었던 점이 문제가 됐다.

오용 및 악용은 이루다와 대화를 나누는 이용자들이 이루다에 대해 성적도구화, 성희롱 등을 한 사례가 알려지면서 역시 문제가 됐다.

이와 관련 스캐터랩 측은 우선 편향성 문제와 관련해"특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다. 그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중"이라고 해명했다.

이어 개인정보 유출 의혹 문제를 두고 "개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못한 점에 사과드린다. 구체적 개인정보는 이미 제거돼있으며, 개인을 특정할 수 있는 정보는 유출되지 않았다"고 해명했다.

다만, 이루다 서비스는 지금도 정상적으로 진행되고 있다. 서비스 중단은 내일(12일)부터 이뤄진다.