[새론새평-곽수종] 인공지능 시대, 불확실한 AI 미래에서의 전략과 권력

2016년 국제수학올림피아드(International Mathematical Olympiad)에서 준우승과 이듬해 동메달을 수상했던 영국 출신 27세의 청년이 앤트로픽에 사직서를 던졌다. 10년 안에 AI가 인류를 파멸시킬 가능성을 경고하면서다.

이 젊은 청년은 앤트로픽(Anthropic)을 제발로 걸어 나왔다. 오랜 번민이 있었던 듯하다. 퇴사를 발표할 때가 되었을 때 콕슨(Jacob Coxon)은 친구 네이선 칼빈(Nathan Calvin)에게 도움을 청했다고 한다. 자신의 판단에 대한 의견을 물었다고 한다.

모두가 인공지능(AI)에 대한 이론을 가지고 있다. 어떤 이들은 기술이 초지능(superintelligence), 즉 이전의 그 어떤 기술도 넘어서는 시대적 변화를 가져올 강력한 AI를 향해 나아가고 있다고 믿는다. 다른 이들은 AI가 생산성과 과학적 발견을 촉진하겠지만, 더 불균형하고 잠재적으로 덜 드라마틱한 경로를 따를 것이라고 한다.

앤트로픽CEO 다리오 아모데이(Dario Amodei)는 콕슨과 의견이 다른 부분보다 동의하는 부분이 더 많다고 말했다. 엔비디아의 젠슨 황(Jensen Huang)은 콕슨의 용기를 높이 평가했지만 미래에 대한 그의 주장에 의문을 표하고 지구 종말에 대한 예측을 무책임하다고 했다.

심지어 토크쇼 중간에 이미 짠 시나리오처럼 트럼프 대통령으로부터 전화를 받고 통화내용을 공개했다. 서부영화 'The Good, The Bad, The Ugly (좋은 놈, 나쁜 놈, 추한 놈)'이 생각난다.

사람들은 기술적 돌파구가 얼마나 쉽게 복제될 수 있는지에 대해서도 의견이 갈린다. 어떤 이들은 경쟁자들이 빠르게 뒤따를 것이라고 주장하는 반면, 추격이 더 느리고 비용이 많이 들게 되어 선점자에게 지속적인 이점을 줄 것이라고 믿는다.

그리고 많은 이들이 중국(China)이 프런티어 분야에서 미국을 꺾기로 결심했다고 확신한다. 적어도 미국이 온갖 고생을 해서 만들어 내면 단지 최고의 기술만 복사하거나 따라하면 그만이다라고도 한다. 반면, 다른 이들은 중국이 기존 기술의 배포에 집중하면서 미국의 첨단 혁신이 나타나면 이를 추출하고 재현하는 데 주력하고 있다고 주장한다.

나름 각자 확신에 찬 모든 정책적 주장은 이러한 이야기들 중 어느 것이 사실인지에 대한 숨겨진 가정에 기초하고 있다. 프런티어 혁신을 우선시하는 이들은 돌파구가 복합적으로 작용하고 복제하기 어려울 것이라고 가정하는 반면, 미국 시스템을 해외로 퍼뜨리는 데 집중하는 이들은 종종 그 반대를 가정한다. 만약 그러한 가정들이 틀렸다면, 그 위에 세워진 전략들은 자원을 낭비하고 미국의 갖고 있는 선점자의 지위를 잃게 만들 수 있다.

단 하나의 이야기에 모든 것을 거는 것은 매혹적이지만 위험할 수 있다. 불확실성 시대에서 선택을 내릴 수 있는 방법, 즉 여러 가능한 미래 전반에 걸쳐 기술적 우위를 확보하고 AI 시대의 형태가 드러남에 따라 적응할 수 있는 방법이 필요하다.

AI의 미래가 궁극적으로 어떻게 펼쳐지든, 우리의 전략은 성공에 대한 명확한 정의에서 시작해야 한다. 국가 안보, 광범위하면서도 지속적인 번영, 그리고 국내와 동맹국 사이의 정의로운 가치를 강화하기 위해 AI를 사용해야 한다.

공공의 이익과 일치할 때, AI는 삶을 개선하기 위한 과학적, 기술적 진보를 이끌 수 있고, 공중 보건, 개발, 기후 변화와 같은 글로벌 과제를 해결하는 데 도움을 줄 수 있다. AI가 만들어내는 매우 실제적인 위험들을 책임감 있게 관리하면서 이 모든 것을 수행할 수 있어야 한다. 결국 우리가 해결해야 할 과제는 어떻게 그곳에 도달하느냐에 있다.

AI 시대의 지정학은 단순하지 않다. 하지만 훈련된 사고방식이 없다면 전략은 숨겨진 가정과 의제들의 무게에 눌려 무너질 것이다. 가능한 세계들과 그것들이 요구하는 선택들을 매핑(mapping)함으로써 이 프레임워크는 안개를 헤치고 나갈 방법을 제공한다.

정책 입안자들에게 주어진 과제는 명확하다. AI를 단 하나의 이야기가 아니라 변화하는 지형으로 다루어야 한다. 만약 이런 식으로 생각하는 법을 갖는다면, 우리는 어떤 AI 시대가 나타나든 이를 정의하게 될 것이다. 그렇지 않다면 다른 이들이 우리를 대신해 그렇게 할 것이다.