[화요초대석-김영수] 페트로프는 어디에 있는가?

김영수 TV조선 고문·전 영남대 교수

김영수(TV조선 고문, 전 영남대 교수)

전쟁의 얼굴이 바뀌고 있다. 총성이 바뀐 게 아니라, 판단의 주체가 바뀌고 있다. 최근 미국-이란 간 군사 충돌은 'AI가 전쟁의 중심으로 들어온 첫 대규모 사례'다. 위성 영상, 드론 정보, 감시 데이터, 통신 기록이 쏟아지는 현대의 전장에서 인간의 뇌는 더 이상 이 모든 것을 따라갈 수 없다. 그 빈틈을 알고리즘이 채우고 있다.

AI 전쟁의 최전선에 팔란티어와 같은 빅데이터 기업이 있다. 미국의 이란 공습에서, 팔란티어의 '고담(Gotham)' 플랫폼은 분산된 모든 정보를 통합하고 시각화했다. 최적화된 AI 솔루션으로 '킬 체인'을 획기적으로 단축시킨다. 앤스로픽의 대규모 언어 모델인 클로드는 팔란티어의 방대한 데이터를 분석했다. 수천 명의 분석가들이 며칠 걸릴 일을 단 몇 시간, 혹은 몇 분 만에 마친 것이다.

물론 최종 판단은 인간의 몫이었다. 하지만 전쟁의 의사결정이 점차 '휴먼 인 더 루프(Human-in-the-loop, 인간 개입형)'에서 '휴먼 온 더 루프(Human-on-the-loop, 감독형)'로 이동하고 있다. 인간이 결정하는 전쟁에서 인간이 감독하는 전쟁으로 바뀌고 있는 것이다. 알고리즘이 최종 결정자가 되면 전쟁이 자동화된다.

물론 인류에게 이런 유혹이 처음은 아니다. 핵 전쟁기 소련의 페리미터 시스템(Perimeter System)은 자동 핵 보복 장치였다. 핵 공격으로 지도부가 모두 사망해도 핵 보복을 실행하도록 설계됐다. 핵폭발이 감지되고 조건이 충족되면 자동 발사 명령이 내려지는 것이다. 이른바 '죽음의 손(Dead Hand)'이다. 이런 시스템이 만들어진 건 핵전쟁의 억지가 상호확증파괴(MAD), 즉 "우리가 죽으면 너도 죽는다"는 상호 공포에 기반했기 때문이다.

이런 시스템이 작동하면 인류 전체가 멸망한다. 그래서 인간의 최후 판단이 필요하다. 소련의 조기경보위성 시스템 '오코(Oko)'가 그랬다. 1983년 9월 26일, 오코가 미국의 핵미사일 발사를 감지했다. 당시 미소 간 군사적 긴장이 극적으로 치닫는 상황이었다. 레이건 대통령은 소련을 '악의 제국(evil empire)'으로 비판했다. 9월 1일에는 대한항공 여객기가 소련에 의해 격추됐고, NATO는 11월에 전면적 선제 핵공격을 상정한 훈련을 실시할 예정이었다. 서독과 이탈리아에 배치된 퍼싱2 미사일은 소련 본토를 사정권에 넣고 있었다.

당시 소련의 위성관제센터 담당 장교 페트로프는 규정대로 즉시 상부에 보고해야 했다. 하지만 지상 레이더는 핵공격을 감지하지 못했고, 미국이 쏜 미사일도 겨우 5개뿐이었다. 그에게 주어진 시간은 불과 몇 분이었다. 마침내 그는 핵전쟁 취소 코드를 입력하고, 오작동 가능성을 보고했다. 실제로 구름에 반사된 태양 빛을 인공위성이 미사일 발사로 오인한 것이었다. 페트로프의 '최후의 말'이 인류를 구했다.

하지만 AI 전쟁에서도 그게 가능할까? 핵무기는 인간이 과연 전쟁을 계속할 수 있는지 의문을 제기했다. 히로시마와 나가사키에 떨어진 원자폭탄의 참상은 끔찍했다. 그 폭탄의 개발자 오펜하이머는 "나는 이제 죽음이요, 세상의 파괴자가 되었다"고 고백했다. 그런 인류의 자기 성찰이 전략무기제한협상(SALT)을 낳았다. 핵무기는 인류 전쟁사의 모순이다. 가장 강력한 무기를 사용할 수 없었기 때문이다. 그걸 사용할 독트린을 만들 수 없었다. 그렇다고 전쟁이 없어진 건 아니다. 다만 전쟁의 공포를 서로 인정하고, '공포의 평화'를 만들었다.

AI 시대의 난제는 무기의 실체가 모호하다는 것이다. AI는 그냥 컴퓨터 코드일 뿐이다. 핵탄두처럼 셀 수가 없다. 민-군의 구분도 없어서 중앙 통제도 어렵다. 실체도, 경계도 흐릿하니 어떻게 제한해야 할지 막막하다. 그러나 가장 어려운 난제는 AI가 인간의 이해방식과 다르고, 인간을 뛰어넘는 존재란 사실이다. 알고리즘의 결론이 어떻게 내려졌는지 인간은 알 수 없다. 그런데도 AI 발전은 인간의 성찰 능력을 넘어섰다. 근대 과학은 계몽주의의 성찰을 거쳤지만, 인류는 두 번의 세계대전을 겪었다. 그런 성찰조차 결여된 AI 전쟁은 어떤 결과를 초래할까?