매일신문

알리바바·텐센트·문샷 AI, 최신 모델서 해킹 기능 제거…왜?

구글 검색 선호 출처로 추가
로봇
mWiz 이 기사 포인트

  • 가
  • 가

알리바바 큰원4-맥스·텐센트 Hy4·문샷 AI 키미 K3.1 프로, 공격적 사이버 능력 학습 데이터 단계적 제거

알리바바와 텐센트, 문샷 AI가 최신 인공지능 모델에서 공격적 사이버 해킹 기능을 일제히 제거했다. (AI 생성 이미지)
알리바바와 텐센트, 문샷 AI가 최신 인공지능 모델에서 공격적 사이버 해킹 기능을 일제히 제거했다. (AI 생성 이미지)

알리바바, 텐센트, 문샷 AI가 최신 AI 모델에서 공격적 사이버 해킹 기능을 일제히 제거했다.

알리바바는 새 플래그십 AI 모델 '큰원4-맥스(Qwen4-Max)'를 공개하면서 소프트웨어 취약점을 탐지하고 수정하는 방어 목적의 사이버보안 역량은 유지하되, 공격적 해킹 기능과 관련한 학습 데이터는 배제했다고 밝혔다. 이번 조치는 중국 AI 업계에서 안전성에 대한 관심이 높아지는 흐름을 반영한다.

텐센트는 이달 초 최신 주력 모델 'Hy4'를 공개하면서 사이버 해킹 기능을 제거하고 방어 기능만 유지했다고 밝혔다. 문샷 AI도 지난 10월 추론·에이전트 특화 모델 '키미 K3.1 프로(Kimi K3.1 Pro)'를 출시하며 같은 조치를 취했다. 즈푸 AI(Zhipu AI)는 가장 민감한 사이버 기능을 신원 인증을 거친 사용자에게만 제공하는 방식을 택하겠다고 밝혔다.

문샷 AI는 키미 K3.1 프로 공개 당시 사이버 공격 데이터를 제거한 필터링 모델의 내부 보안 벤치마크 점수가 81.0%로, 제한 없이 학습시킨 원본 버전(90.5%)보다 9.5%포인트 낮아졌다고 스스로 밝혔다. 공격 기능을 걷어내면 성능 저하가 불가피하다는 점을 기업 스스로 인정한 셈이다.

이 같은 흐름은 중국 AI 기업들이 오픈웨이트 방식을 고수하는 데서 비롯된 딜레마를 보여준다. 오픈웨이트 모델은 충분한 하드웨어를 갖춘 누구든 내려받아 수정할 수 있어 악의적 행위자도 접근 가능하다. 중국 기업들은 오픈웨이트 방식을 포기하는 대신, 학습 데이터 필터링을 통해 해킹 기능만 선별적으로 제거하는 방식을 선택했다.

텐센트와 문샷 AI는 모두 폐쇄형(클로즈드소스) 버전을 먼저 공개한 뒤 수 주 후 오픈웨이트 버전을 단계적으로 내놓는 방식을 택했다.

중국 상무부는 지난 10월 특정 첨단 AI 관련 기술에 대한 수출 통제 초안을 발표하면서, 사이버 해킹 역량이 일정 기준을 넘어서는 기술에 대해 엄격한 추가 제한을 가하겠다고 예고했다. 이 수출 통제 초안이 기업들의 움직임을 촉발했다는 분석이 나온다. 중국 정책 분석 기관 트리비움 차이나는 해당 기준이 적용될 경우 키미, 큰원, 딥시크의 미래 버전도 규제 대상이 될 수 있다고 밝혔다.

앤스로픽은 지난 9월 프런티어 레드팀 분석 보고서에서 즈푸 AI의 오픈웨이트 모델 'GLM-5.3'이 자사 최고 사이버 보안 특화 모델인 '클로드 미소스 프리뷰(Claude Mythos Preview)'에 맞먹는 수준의 사이버 공격 능력을 보였다고 경고했다. 미국 국립표준기술연구소(NIST)는 GLM-5.3을 현재 출시된 사이버보안 작업용 오픈웨이트 모델 중 가장 뛰어난 성능을 가진 것으로 평가하면서, 미국 최첨단 시스템보다 기술적으로 약 4개월 뒤처진 것으로 추정했다.

다만 사이버 방어에 유용한 취약점 탐지 기능이 해킹에도 활용될 수 있는 이중 용도 특성 때문에, 악의적 행위자가 여전히 이들 모델을 악용할 가능성은 남아 있다.

이번 움직임은 리서치 기관 세미애널리시스가 10월 발표한 보고서에서 중국 주요 AI 개발사들이 857건의 모델 출시 중 3.6%에 대해서만 안전성 검사 결과를 공개했다는 사실이 드러난 이후, 투명성을 높이려는 업계의 자구 노력이라는 평가도 나온다.

한편 알리바바는 이번 큰원4-맥스를 가중치(weights) 공개 없이 출시했다. 가중치는 모델이 반응하는 방식을 결정하는 내부 설정값으로, 공개하지 않으면 사용자가 모델 전체를 내려받아 변형하는 것이 불가능하다.

0700
AI 뉴스브리핑
정치 경제 사회 국제
이재명 대통령과 더불어민주당에 대한 중도층의 평가가 과거보다 크게 하락하며, 이 대통령의 긍정률은 57.5%에서 38.7%로 18.8%p 감...
인공지능(AI) 반도체 관련주가 '젠슨 황 사태'로 인해 주춤하는 가운데, 반도체 소재·부품·장비 기업들은 수요에 대응하기 위해 생산능력 확...
법학적성시험(LEET)에서 만점을 기록한 이진우 씨는 인공지능(AI) 부정행위 의혹에 대해 19일 대학수학능력시험(수능) 국어 문제를 실시간...
싱가포르 클라우드 업체 메가스피드 인터내셔널의 핵심 인물 앨리스 황이 지난해 8월 퇴사한 이후, 미국과 싱가포르에서 동시에 진행되고 있는 수..
→

많이 본 뉴스

일간
주간
월간