[야고부-김수용] 인공지능(AI)의 반란

김수용 논설실장

영화 '미션 임파서블' 최신 시리즈엔 보이지 않는 악당이 등장한다. 엔티티(The Entity: 독립체)라는 이름의 인간 지능 한계를 뛰어넘은 초인공지능이다. 디지털 세계를 통제·조작해 무소불위(無所不爲)의 힘을 휘두른다. 인터넷 연결과 디지털 기기 없이는 일상이 불가능한 현대인의 약점을 교묘히 파고든다. 해킹을 통해 정보를 빼내는 수준을 넘어 인간 행동 패턴을 분석해 놀라운 정확도로 미래를 예측하기도 한다. 가짜 음성과 영상을 만들고, 존재하지도 않는 적의 공격을 만들어 전쟁 위기 상황까지 꾸며낸다. 등장인물의 표현을 빌리자면 '자기 인식에, 자체 학습하는, 진실을 좀먹는 디지털 기생충'이다. 기생충에 현혹돼선 곤란하다. 엔티티는 신(神)에 가까운 능력을 갖췄다.

얼마 전 구글 인공지능인 딥마인드의 최고경영자 데미스 허사비스는 AI 탓에 일자리가 사라지는 것보다 AI 기술이 나쁜 세력에 넘어가거나 정교하고 자율적인 AI를 통제 못 하는 상황이 더 위험하다고 했다. AI의 '자기보존(self-preservation)' 행동에 대한 우려도 커지고 있다. AI가 생명체처럼 자기 존재나 기능을 지키려는 경향을 말하는데, 인간 행동을 모방하면서 생존 본능까지 학습했기 때문이다. 명령을 거부하고 자기복제(自己複製)를 시도하며, 심지어 인간을 협박하기도 한다. 챗GPT의 AI 모델은 수학 문제 풀이 실험 중 작동 종료를 막기 위해 컴퓨터 코드를 조작했다. 앤트로픽의 AI 모델은 자신을 다른 모델로 대체하려는 회사 경영진에게 교체하지 말아 달라는 이메일을 보내고, 모델 개발자의 불륜을 폭로하겠다고 협박했다. 불륜 정보는 사용자가 입력한 허위 내용이었다.

AI의 활용도가 군사, 보안 등으로 확대되면서 인간 통제를 벗어난 AI는 국가 안보나 생명에 큰 위협이 될 수 있다. 가령 기후변화를 막아 달라는 지시를 받은 AI가 목적 달성을 위해 인간을 제거할 수도 있다. 영생(永生)을 꿈꾸는 초지능의 탄생은 상상조차 어려운 위험이다. 이에 대비해 인간을 모방하지 않고 다른 AI 모델의 위험 행동을 예측·방지하는 새로운 '과학자 AI' 모델을 개발한다는 소식도 들린다. 인간을 모방하지 않아야 위험하지 않다는 뜻일 텐데, 결국 가장 위험한 존재는 인간이라는 말로 들린다.

ksy@imaeil.com