KISA "AI에 개인정보 입력말라"…딥시크發 보안 우려

'생성형 AI 사용 주의' 보안 공지

서울 종로구 정부서울청사 PC에 '딥시크' 사이트가 차단된 화면. 연합뉴스

중국에서 개발한 인공지능(AI) 모델 '딥시크'가 과도한 개인정보 수집 논란에 휩싸이면서 국내에서도 AI 서비스 이용에 대한 보안 우려가 확산하고 있다. 이에 따라 한국인터넷진흥원(KISA)이 생성형 AI 사용 시 유의해야 할 보안 수칙을 담은 권고문을 발표했다.

한국인터넷진흥원은 지난 7일 보호나라 홈페이지를 통해 "생성형 AI 서비스가 전 세계적으로 빠르게 확산하면서 보안 위협 역시 커지고 있다"며 "국내 이용자와 기업들이 보다 안전하게 AI 기술을 활용할 수 있도록 주의사항을 안내한다"고 밝혔다.

먼저 일반 사용자들에게는 AI 서비스 이용 시 주민등록번호, 전화번호, 주소 및 금융 정보 등 개인정보를 입력하지 말 것을 당부했다. 또한 AI가 생성한 정보에는 오류가 포함될 가능성이 있는 만큼, 사실 여부를 반드시 검증해야 한다고 강조했다. 가짜뉴스나 딥페이크 영상 등의 유포를 막기 위해 출처가 불분명한 링크나 이메일을 클릭하기 전 신뢰할 수 있는 발신자인지 확인하는 것도 중요하다고 덧붙였다.

기업을 대상으로 한 보안 지침도 제시됐다. 기업 내부 문서, 소스 코드, 고객 정보 등 기밀 데이터가 AI 서비스에 입력되지 않도록 정책을 수립할 것을 권고했다. 또한 AI 서비스 사용 로그를 기록하고, 내부망에서의 무단 사용을 제한하는 접근 통제 정책을 마련해야 한다고 밝혔다.

특히 AI를 활용한 악성코드 제작 사례가 증가하고 있는 만큼, AI 기반 코드 생성기를 사용할 때 보안 점검을 철저히 할 필요가 있다고 지적했다. 아울러 AI가 생성한 콘텐츠의 출처를 확인하고 검수 프로세스를 강화해 기업 신뢰도가 저하되는 일을 방지해야 한다고 강조했다.

최근 중국발 AI 모델의 개인정보 수집 논란이 불거지면서 국내에서도 AI 서비스 이용에 대한 경각심이 높아지고 있다. 한국인터넷진흥원은 AI 기술이 빠르게 발전하고 있는 만큼, 이용자들이 보안 수칙을 숙지하고 신중하게 활용할 필요가 있다고 당부했다.