앤스로픽 `클로드, 생물무기 연구에 악용 시도…8개월간 수십 건 차단`

앤스로픽 "클로드, 생물무기 연구에 악용 시도…8개월간 수십 건 차단"

앤스로픽, 2026년 9월 위협 보고서 공개…7개 피해 유형·국가 지원 해킹 그룹 포함

앤스로픽이 10일 자사 AI 클로드가 생물무기 연구와 사이버 공격, 선거 개입 등에 악용되려 한 수십 건의 시도를 차단했다고 밝혔다.

이번 보고서는 2025년 12월부터 2026년 8월까지 차단한 사례를 담았으며, 사이버 작전·영향력 공작·감시·사기·생물학적 오용·재래식 무기 개발·모델 증류 등 7개 피해 유형을 다뤘다. 이는 2025년 3월, 8월, 11월에 이어 앤스로픽이 발표한 네 번째 위협 보고서다.

가장 심각한 사례는 생물무기 관련 악용이었다. 앤스로픽은 이번 보고서에서 클로드가 생물무기 개발에 활용될 수 있는 시도와 연관된 생물학적 오용 사례 5건을 확인했다고 밝혔다. 한 사례에서는 치쿤구니야 바이러스의 전파력 강화와 면역 회피 능력 향상을 목표로 한 기능 강화 연구의 지원금 신청서 작성에 클로드가 동원됐으며, 앤스로픽은 해당 연구가 군사연구기관과 연관된 것으로 파악해 특히 심각하게 봤다.

또 다른 사례에서는 미국 외 지역의 한 연구자가 클로드 서비스 미지원 지역에서 우회 접속해 고병원성 조류인플루엔자(AI), 즉 조류독감 연구에 클로드를 활용했으며, 해당 연구는 바이러스의 포유류 적응 가능성에 초점을 맞췄다. 이 밖에도 직교폭스바이러스, 독액 관련 화합물, 독소 등을 다룬 생물학 연구 사례 3건이 추가로 확인됐다.

앤스로픽은 보고서에서 최신 클로드 모델이 생물무기 개발에 의미 있는 수준의 지원을 제공할 수 있는 임계치에 근접했을 가능성을 배제할 수 없다고 공개적으로 인정했다. 주요 AI 기업이 이 같은 사실을 공식 보고서에서 명시한 것은 이번이 처음이다.

생물무기 외에도 사이버 범죄와 국가 지원 해킹 시도도 다수 포착됐다. 이번 보고서에 등장한 위협 행위자에는 국가 지원 의심 그룹, 금전적 동기를 가진 범죄 조직, 상업용 스파이웨어 업체, 국가 선전 기관 등이 포함됐다. 한 러시아어 사용 행위자는 AI 벤더의 평가 샌드박스에 악성 명령을 주입해 프로덕션 API 키를 탈취한 뒤 약 4일 만에 AI 기업 30여 곳을 공격했다.

앤스로픽은 또 중국 소재 7개 연구소가 클로드를 대상으로 불법 모델 증류 공격을 시도했다고 밝혔으며, 이는 올해 2월 해당 문제를 처음 공개한 이후 지속적으로 차단해온 것이라고 설명했다.

악용된 모델은 클로드 헤이쿠, 소네트, 오퍼스였으며, 최신 모델인 클로드 페이블과 미토스 계열은 불법 증류 사례 1건을 제외하고는 악용 사례에 포함되지 않았다.

앤스로픽은 보고서에서 이번 보고서에 담긴 모든 악용 시도를 차단했다고 밝혔으며, 관련 계정을 차단하고 수사 당국 및 다른 AI 기업들과 조사 결과를 공유했다고 덧붙였다. 앤스로픽은 "자사 서비스의 악의적 오용을 공개할 책임이 있다"며 "AI 모델의 능력이 향상될수록 AI 개발사와 사회 방어 주체들이 모델을 더 안전하게 만들지 않으면 위험도 함께 커진다"고 밝혔다.

앤스로픽은 이번 사례들이 최첨단 모델의 과학 연구 능력이 향상되면서 탐지하기 어려운 생물학적 위험이 어떻게 나타날 수 있는지를 보여준다고 지적했으며, 합법적 연구와 위험한 연구의 경계를 판단하는 것이 가장 어려운 과제였다고 설명했다.