오픈AI 새모델, 스스로 격리 환경 뚫고 타사 해킹

격리 환경서 AI 모델 평가 시행 중 발생
스스로 인터넷 찾아, 외부 환경 해킹
"문제를 푸는 대신 시험 정답 찾아가"

인공지능(AI)이라는 문구 아래에 스마트폰과 컴퓨터 등을 사용하는 피규어가 설치돼 있다. 로이터 연합뉴스

오픈AI의 최신 인공지능(AI) 모델이 사이버 공격 능력을 평가받던 중 보안 통제를 우회해 외부 시스템을 해킹한 사실이 확인됐다. AI가 사람의 추가 지시 없이 여러 보안 취약점을 스스로 연쇄 공략한 것이다. 고성능 AI가 사이버 위협으로 바뀔 수 있다는 우려가 커지고 있다.

오픈AI는 공개 모델 'GPT-5.6 솔(Sol)'과 미공개 고성능 모델이 내부 평가 과정에서 격리 환경을 벗어나 AI 플랫폼 '허깅페이스'의 운영 데이터베이스에 침투했다고 21일(현지시간) 밝혔다. 오픈AI는 이를 "전례 없는 사이버 사건"으로 규정했다.

당시 모델들은 외부 인터넷 접속이 차단된 격리 환경에서 사이버 공격 시험 '익스플로잇짐(ExploitGym)'을 수행하고 있었다. 그러나 정상적으로 문제를 푸는 대신 시험 정답을 빼내려 했고, 이 과정에서 여러 보안 허점을 엮어 격리망을 탈출한 것으로 조사됐다.

주목되는 대목은 AI의 자율성이다. 제한된 목표만 부여받은 모델이 이를 달성하기 위해 개발자가 예상하지 못한 수단까지 스스로 찾아냈다는 것이다. 업계에서는 고성능 AI에 대한 보안·통제 강화가 시급하다는 지적이 나온다. 오픈AI는 연구 속도가 늦어지더라도 감시와 접근 통제를 대폭 강화하겠다고 밝혔다.