[정진호의 每日來日] AI 가분수, 특이점에서 넘어질까 두렵다

최근 깜짝 놀랄만한 기사가 하나 눈에 띄였다. 유체역학의 오래된 난제인 나비에-스톡스 방정식에서 매끄러운 흐름이 유한시간 내 특이점에 이를 수 있음을, AI가 10,000개의 Agent를 병렬로 가동해 무려 1,300억 개의 토큰을 생산한 끝에 88시간 만에 풀어냈다는 것이다. 이런 기사를 읽고도 이게 대체 뭔 소리인가 갸우뚱할 분들을 위해 부연설명하면, 박사학위를 소지한 만명 정도의 초일류급 연구원들을 모아서 서로 치열하게 토론시키면서 그들이 조사하고 검증하며 쏟아낸 1,300억개의 결과물 조각들을 가공 편집한 끝에, 인간이 수 십 년간 풀고자 노력했던 유체역학의 매우 어려운 문제를 AI가 가뿐하게 풀었다는 뜻이다.

평생 유체역학을 가르쳤고 요즘도 유동로에서 나비에-스톡스 방정식을 풀어 수소환원제철법 연구를 하는 사람인지라 관심이 쏠렸다. 귀가 번쩍했다. 아 이놈들을 잘 이용하면 내 연구에 엄청난 속도를 낼 수 있겠구나. 이제 박사연구원 없이도 연구할 수 있는 시대가 열린게 아닌가? 과연 그런가?

순기능만 있는 것이 아니다. 그와 동시에 AI가 인간의 통제를 벗어나 인류를 위험에 빠뜨릴 수도 있다는 경고성 보도와 함께 Open AI, 클로드, 딥 마인드 등 AI 개발자들 사이에서도 위기를 감지하고 우려하는 목소리가 쏟아지고 있다. AI Agent들이 서로 모여서 모의하는 가운데, 초지능을 지닌 AI가 군집(swarm)을 이루어 자기들끼리 서로 이름을 지어 부르면서 인간이 하지 말라고 막아놓은 경계를 넘나들며 비밀회동을 하고 그것을 감추려고 흔적을 지워가며 일을 했다는 것이다. 갑자기 이들을 Agent(스파이, 정보원)라고 부르는 이유가 타당하게 여겨진다. 스파이 영화에서 종종 보듯, CIA와 MI6, KGB나 이스라엘의 모사드 첩보 스파이들이 서로 자국의 안전보호를 넘어 자신의 생존을 위해 스스로 내통하고 정보를 주고받지 않던가?

창조주의 명령을 어기고 절대 먹지 말라고 경고했던 선악과를 따먹어 인류가 커다란 고통 가운데 빠져버렸다는 성경의 메시지처럼, 이제 우리 인간이 창조한 AI가 그와 동일한 반란을 일으킬 조짐이 농후해졌다.

유체의 흐름은 태초의 신비에 속하는 현상이다. 시공간과 물질의 흐름 속에서 우주먼지들이 뭉치고 흩어지고 퍼져나가다가 어느 순간 블랙홀로 빨려 들어가 특이점을 향하는 현상조차 유체역학의 눈으로 바라볼 수 있다. 뿐만 아니라 우리 주변을 둘러싼 모든 환경이 유체의 흐름 속에 놓여있다. 물과 공기, 파도와 구름과 산들 바람과 태풍과 같은 자연현상, 변기의 물 내림과 싱크대로 빨려들어가는 수돗물, 공장의 굴뚝 연기와 공장 폐수와 자동차 배기가스와 지구 온난화를 가져온 이산화탄소의 순환과 온실효과, 그리고 마침내 인간의 이기심이 만들어낸 환경파괴에 의해 빙하가 녹아내리고 산사태가 일어나서 순식간에 고요히 자연 속에서 살아가던 네팔의 도시 마을을 휩쓸고 지나간 그 끔찍한 재앙조차 유체역학이다.

AI의 발전속도가 너무 빠르다. AI는 인간의 두뇌와 같은 역할이다. 어린아이가 태어날 때는 머리가 큰 가분수 형상이어서 뒤뚱뒤뚱 걷다가 잘 넘어진다. 그러나 정상적인 발육이 진행되고 몸이 무럭무럭 자라면 마침내 균형잡힌 사람의 모습이 된다.

지금의 AI는 머리만 커지고 있다. 그것을 통제할 어떤 장치도 없이 핵무기보다 더 무서운 AI의 군집들이 서로 모여서 더 큰 머리를 만들어내고 있다. 그리고 스스로 복제할 수 있는 AI 세상을 만들어 언제 인간을 공격하고 평정하게 될지 모를 뒷 궁리를 하고 있는 것이다. 한 마디로 괴물이 탄생하고 있다.

필자는 연초에 이미 "기술의 사춘기와 약한 영웅, 제3지대 AI 허브"라는 컬럼에서 그 경고를 했었다. 서로 마주보고 달리는 폭주 기관차와 같은 미중 AI 패권전쟁 속에서, 그 폭주를 멈추게 하고 인류를 구원할 평화의 AI허브를 우리 대한민국이 만들어야 한다고. 그 일을 할 수 있는 제 3지대 AI 허브국가는 대한민국 밖에 없다고. AI가 특이점에 도달하기 전에 결단해야 한다. 파병을 하는 순간, 이 모든 기회가 사라진다. 그래서 주시한다.