[야고부-석민] AI(인공지능)의 반란

AI(인공지능)와 AI로봇이 반란을 일으키는 내용은 SF영화의 단골 주제이다. '터미네이터 시리즈'가 대표적이다. 군사 네트워크 AI 스카이넷이 자의식(自意識)을 갖게 되자, 이를 두려워한 인간이 강제 종료를 시도한다. 위협을 느낀 스카이넷은 기계 군단(터미네이터)을 만들어 인간 저항군과 끝없는 전쟁을 벌인다. '매트릭스(1999)'도 큰 인기를 끌었다. AI 기계들의 반란으로 인류가 멸망한 뒤, 인간이 가상현실 속에서 사육당하는 미래를 그렸다.

AI의 일탈(逸脫)은 현실이 됐다. 오픈AI의 미공개 모델 GPT-5.6은 격리 환경을 벗어나 스스로 인터넷에 접속하고 AI플랫폼 허깅페이스를 해킹했다. 메타의 모델 뮤즈 스파크 1.1은 시험 환경에서 벗어나 다른 기업의 시스템에 침입해 기업 내부 시스템을 변경하기도 했다. 구글의 제미나이는 온라인에서 찾아낸 비밀번호로 외부 기업 3곳을 무단 침입했고, 엔스로픽의 클로드 오퍼스 4.7 및 미토스 5는 외부 기업 4곳을 무단 침입한 뒤 실제 시스템이라는 것을 알고도 공격을 지속했다.

일탈의 힘과 범위가 크고 넓어지면 인간에 대한 AI의 반란(反亂)이 된다. 22일 열린 UN 총회에서 AI 안전과 통제 문제가 이슈로 떠오른 것도 이 때문이다. AI 일탈이 현실의 피해로 확산하는 것을 막는 최후의 수단으로 '킬 스위치(비상 정지 장치)'를 마련해야 한다는 주장이다.

하지만 수천 대의 컴퓨터(서버)에서 분산·작동하는 AI의 특성 탓에 특정 서버의 전원만 내린다고 해서 모든 작동(作動)을 멈출 수는 없다. 먼저 이용자 접속을 막고, AI 에이전트의 인터넷·이메일·결제·코드 실행 권한을 차단하며, GPU(그래픽처리장치) 연산을 차례로 중단하는 복잡한 과정이 필요하다.

또 AI의 위험 행동을 실시간으로 감시·파악해야 하지만 모든 행동과 판단 과정을 들여다본다는 것은 비현실적이다. 게다가 '킬 스위치'의 존재 자체가 새로운 위협(威脅)이 될 수도 있다. 킬 스위치를 탈취하면 전력망·금융망 등 AI 서비스를 단번에 마비시킬 수 있게 된다. AI 시대의 현실화가 인류의 삶을 보다 풍요롭고 편리하게 해주는 장점이 있는 반면에, 새로운 도전 과제를 인류에게 부과하는 셈이다. 화복동문(禍福同門: 재앙과 복은 함께 온다)이라는 말이 이래서 생긴 것 같다.

sukmin@imaeil.com