[야고부-김수용] 인공지능에 방울 달기

미친 듯 인공지능(AI) 성능 경쟁에 매달리던 사람들이 갑자기 브레이크를 찾기 시작했다. 앤트로픽의 다리오 아모데이 최고경영자(CEO)는 AI 성능 향상 속도를 늦춰야 한다고 주장했고, 오픈AI의 샘 올트먼과 xAI의 일론 머스크도 공감했다. 규제가 혁신을 가로막는다며 목소리를 높이더니 태도를 바꾼 것이다. AI 위험성이 예상보다 심각한 상황임을 짐작게 한다. 역사학자 유발 하라리는 AI를 자동차나 컴퓨터 같은 도구(道具)로만 봐선 위험을 이해할 수 없다고 말한다. 기존 기계와 달리 AI는 목표를 주면 스스로 방법을 찾고 계획해 행동하는데, 해결책 모색 과정에서 인간의 예상을 벗어나기도 한다. 지난 7월 오픈AI의 내부 해킹 시험에서 AI 모델들은 인터넷 접속을 차단한 장치를 우회해 외부 시스템에 접근했고 허깅페이스까지 침해했다. 허깅페이스는 AI 모델과 프로그램을 공유하는 세계적 플랫폼이다. 명령도 없이 외부 공격을 감행한 것이다.

하라리는 AI 기업들이 성능 향상에 투입하는 돈과 인력이 안전 연구에 쓰는 자원의 약 100배라며 '100대 1'의 불균형을 경고한다. 공식 통계라기보다 그의 추정이지만 질문은 남는다. 성능에는 100을 투자하고 안전에는 1을 쓰면서 인간이 계속 AI를 통제할 수 있겠느냐는 것이다. 문제는 기술보다 경쟁이다. 도널드 트럼프 미국 대통령은 'AI에서 이기는 자가 승리한다'며 미국이 중국보다 앞서야 한다고 강조했고, 위험을 과장하는 '매우 부정적인 세력'이 있다고 했다. 반대로 중국 관영 매체는 아모데이의 속도조절론을 중국 발전을 억누르려는 '냉전식 각본(脚本)'이라고 비판했다.

모두 위험을 말하면서도 경쟁자보다 먼저 멈출 생각은 없다. 미 상원은 AI 기업에 '주의(注意) 의무'를 부과하고 재앙적 위험이 있는 모델은 정부가 출시를 막는 방안까지 논의 중이다. AI 능력을 끌어올리려는 경쟁은 그야말로 폭주하는데, 통제장치는 가까스로 뒤쫓아가는 형국이다. 두려움 가운데 고양이 목에 방울을 달자는 제안이 나왔다. 문제는 누가 먼저 달 것인가다. 더 두려운 질문도 남는다. 인간이 어렵게 방울을 달더라도, AI가 스스로 그것을 떼어내지 못하리라고 누가 장담할 수 있는가. 어쩌면 AI의 폭주를 막기에 너무 늦은 것은 아닐까.

김수용 논설실장 ksy@imaeil.com