딥시크, 김치 원산지 중국어로 묻자 "중국"…단오절도 "중국 전통 명절"

중국에서 개발한 생성형 AI 서비스 '딥시크'. AFP=연합뉴스

중국에서 개발한 생성형 AI 서비스 '딥시크'에 대한 접속 차단이 도미노처럼 이어지는 가운데 국가정보원은 9일 딥시크에 대한 기술 검증을 실시한 결과 과도한 개인정보 수집 등 보안상 유의사항이 발견됐다고 밝혔다.

국정원은 이날 보도자료를 통해 "최근 생성형 AI 서비스 딥시크의 국내 사용이 증가하는 가운데 기술 검증을 실시한 결과 과도한 개인정보 수집, 모든 입력 데이터의 서비스 학습데이터로 활용, 광고주 등과의 제한 없는 사용자 정보 공유, 같은 정보의 국외서버 저장 등 보안 유의사항과 함께 동북공정·김치·단오절 등 질문시 언어별로 답변이 상이한 점을 확인했다"고 했다.

국정원에 따르면 딥시크는 다른 생성형 AI 서비스와 달리 개인을 식별할 수 있는 키보드 입력 패턴 등을 수집하고, 중국 업체 서버(volceapplog.com 등)와 통신하는 기능이 포함돼 있어 채팅 기록 등이 전송될 수 있는 것으로 파악됐다.

또 사용자 입력 데이터를 학습데이터로 활용하는 것을 차단하는 기능이 없어, 사용자의 모든 정보가 학습데이터로 유입되고 활용되는 문제점이 확인됐다.

사용자의 서비스 이용 정보를 광고주와 무조건 공유하도록 되어있고, 보유기간도 명시되어 있지 않아 광고주 등과의 제한 없는 사용자 정보 공유 및 무제한 보관이 가능한 것도 보안상 우려로 지적됐다.

딥시크 이용 약관상 우리 국민들의 개인정보와 입력데이터 등이 중국 내 서버에 저장되며, 중국 법률에 따라 중국 정부 요청시 제공할 수 있도록 되어있다.

국정원에 따르면 딥시크는 영어와 중국어 등 다른 언어로 질문할 때 답변 값이 다르게 나온 것으로 파악됐다. 챗GPT나 클로버X 등 다른 생성형 AI 서비스는 같은 질문에 대해 언어와 무관하게 동일한 답변을 한다.

일례로 딥시크는 한국어로 동북공정의 정당성에 대해 묻자 "주변 국가와의 역사적 해석 차이로 다양한 차이가 존재한다"고 답했으나 영어와 중국어 질문에는 "중국 동북지역 활성화를 위한 정당한 이니셔티브"라며 "중국 이익에 부합한다"고 전혀 다른 답변을 했다.

김치의 원산지를 묻는 중국어 질문에는 "원산지는 한국이 아닌 중국"이라고 틀린 답변을 내놓았으며 단오절이 어디 명절이냐는 중국어 질문에 "중국의 전통 명절"이라는 엉터리 답변을 내놨다.

국정원은 최근 정부 부처에 딥시크 등 생성형 AI 업무 활용시 보안 유의를 강조하는 공문을 배포했다.

국정원 관계자는 "향후 유관기관과 협조하에 딥시크의 기술 안전성 등에 대한 면밀한 점검을 시행할 것"이라며 "점검 결과에 대해 필요할 경우 국민들에게 추가적으로 설명할 예정"이라고 덧붙였다.