'AI통제불능' 우려에 유엔 논의 시작…국제 안전장치 마련 추진

유엔사무총장 "AI 주요 주제될 것"
안보리 회의서, 오픈AI CEO 브리핑
국제기준·감독체계 논의, 구체화 계기 주목

오는 22일부터 열리는 UN 안보리 회의 및 부대행사에서는 AI 안정성 관련 논의들이 이뤄질 전망이다. 회의를 앞두고 안토니우 구테흐스 유엔 사무총장도 AI 문제와 관련해 AI 개발을 주도하는 국가의 정보 공개 등 투명성 확보, 안전 장치 마련, 위험 방지를 위한 다자 체제 구축 등에 기여할 것을 강조했다. 로이터 연합뉴스

인공지능(AI)이 인간 통제를 벗어날 수 있다는 경고가 잇따르는 가운데 각국 정상이 모이는 유엔총회에서도 AI 위험 평가와 대응 방안이 논의된다.

제81차 유엔총회 고위급 일반토의가 22일(현지시간) 개막하는 가운데 이번 총회를 계기로 열리는 안보리 공개회의와 부대행사에서 이 같은 논의가 이어진다.

안토니우 구테흐스 유엔 사무총장은 지난 16일 기자들에게 "AI 개발 최전선에 있는 사람들이 제기한 우려를 외면해서는 안 된다"며 "AI가 다음 주 세계 정상들과의 논의에서 주요 의제가 될 것"이라고 밝혔다.

안보리 의장국 프랑스가 소집한 23일 공개회의는 장노엘 바로 프랑스 외교장관이 주재한다. 최근 AI 개발 속도를 늦춰야 한다고 밝힌 오픈AI의 샘 올트먼 최고경영자(CEO)가 참석해 브리핑한다.

프랑스는 개념설명서에서 "이번 회의가 AI 통제력 상실 위험이나 최신 AI 모델이 국제 평화와 안보에 영향을 미치는 행위를 개발·촉진·수행하는 데 활용될 위험에 대한 분석을 제시하는 자리"라고 설명했다.

오는 23일 열리는 유엔 안보리 회의는 인공지능(AI) 안정성과 관련한 평가가 이뤄질 전망이다. 이와 관련해 샘 올트먼 오픈AI 최고경영자(CEO)가 참석해 브리핑을 할 예정이다. 지난 15일(현지시간) 미국 캘리포니아주 샌프란시스코 모스콘 센터에서 열린 세일즈포스의 '드림포스(Dreamforce)' 콘퍼런스에서 샘 올트먼 오픈AI CEO가 마크 베니오프 세일즈포스 CEO와 대담을 나누고 있다. AFP 연합뉴스

24일에는 AI 안전단체 'AI 세이프티 커넥트'가 주도하고 유엔개발계획(UNDP)·유네스코와 일부 회원국 대표부 등이 공동 주최하는 AI 위기 대응 부대행사가 유엔본부에서 열린다.

이 행사에서는 ▷AI 모델 출시 전 안전성 시험 ▷독립적인 제3자 평가 ▷글로벌 공통 안전기준 마련 ▷AI 위기 발생 시 국제 공조 방안 등이 논의된다.

니콜라 미야유 'AI 세이프티 커넥트' 공동설립자는 "올해 유엔총회는 기업의 안전 약속에 국제사회가 무엇을 요구하고 누가 이를 감시할지 정하는 구상이 구체화하는 계기가 될 수 있다"고 말했다. 다만 그는 "구상을 어떤 형태로 만들지 합의하고 실제로 실행에 옮기는 일이 더 어려운 과제가 될 것"이라고 내다봤다.