LLM 재킹 급증…앤트로픽·구글·오픈AI 계정 다크웹서 97% 할인 판매

구글 위협분석그룹 "올해 LLM 재킹 크게 늘어…공격자에 경제적 우위 줘"

인공지능(AI) 서비스 접속 화면 앞에서 해커가 키보드를 조작하고 있다. 연합뉴스

구글 위협분석그룹(GTIG)이 기업의 고가 AI 모델 계정과 클라우드 연산 자원을 무단 탈취하는 'LLM 재킹' 범죄가 올해 들어 급증했다고 경고했다.

구글 위협분석그룹의 존 헐트퀴스트 수석 분석가는 27일(현지시간) 파이낸셜타임스(FT)에 다크웹과 암시장에서 AI 로그인 자격이 매매되거나 타인의 연산 자원을 무단 점유하는 사례가 올해 크게 늘었다고 밝혔다. 해커들은 이 같은 'LLM 재킹' 수법을 전쟁이나 스파이 활동 등에 악용하기도 하는 것으로 나타났다.

구글 위협분석그룹 조사 결과, 다크웹에서는 앤트로픽·구글·오픈AI의 AI 모델 이용권이 최대 97% 할인된 가격에 팔리고 있었다. 최대 월 200달러에 달하는 AI 모델 구독료가 단돈 몇 달러에 거래되는 셈이다.

AI 기업들은 악용 징후를 감시해 문제가 발견되면 계정을 차단하고 있다. 그러나 다크웹 판매자들은 초기 계정이 차단되더라도 추가 비용 없이 새로운 로그인 계정을 제공하겠다는 '접속 보장'까지 내걸고 있어 단속 효과가 제한적이다.

계정 재판매에 그치지 않고, 범죄 조직이나 국가가 지원하는 해킹 그룹이 기업의 클라우드 서버에 직접 침투해 자신들의 AI 모델을 피해 기업 서버에서 구동하는 수법도 확인됐다. 헐트퀴스트 분석가는 미국을 표적으로 삼았던 중국의 사이버 스파이 단체가 이 같은 사건에 연루된 사례도 있다고 소개했다. 이는 과거 해커들이 타인의 컴퓨터를 장악해 암호화폐를 채굴하던 방식과 같은 논리다.

헐트퀴스트 분석가는 "현 시점에서 모든 위협 행위자가 어떤 형태로든 AI를 활용하고 있으며, 그들의 작전은 이미 이로부터 이득을 보고 있다"고 지적했다. 그는 이 같은 범행을 통해 공격자가 방어자보다 훨씬 저렴한 비용으로 AI 토큰을 손에 쥐게 돼 경제적 효율 면에서 우위를 점하게 될 것이라고 우려했다.

그는 "결국 공격자는 훨씬 낮은 비용으로 연산 자원을 손에 넣지만, 방어자는 정가를 내고 이를 막아야 한다"며 비대칭 구조를 경고했다.

특히 해커가 공격 대상 서버에 몰래 침투하기 가장 좋은 시기가 지금이라고 그는 강조했다. 기업들이 자체 AI 인프라를 도입하기 시작하는 시기인 만큼, 연산 사용량이 급증해도 정상적인 업무 부하로 오인될 수 있기 때문이다. AI 시스템은 막대한 연산 자원을 필요로 하는 특성상 무단 사용이 탐지를 피하기 쉽다.

보안업체 크라우드스트라이크의 2026년 위협 헌팅 보고서에 따르면, 2025년 7월부터 2026년 6월까지 AI 관련 적대적 활동이 89% 증가했다.

헐트퀴스트 분석가는 2014년 러시아 해킹 조직 '샌드웜'의 정체를 폭로하고, 2016년 해당 조직이 우크라이나 전력망 공격의 배후임을 입증한 사이버 보안 분야 전문가다. 그는 "AI가 일시적인 유행에 불과하다고 방관하는 사람들은 언젠가 물에 빠진 채로 깨어나게 될 것"이라며 "지금까지 경험해 본 적 없는 수준의 공격과 사고를 더 많이 겪게 될 것"이라고 경고했다.