아모데이·젠슨황 AI 규제 충돌…`표준 세워야` vs `규제 불필요`

아모데이·젠슨황 AI 규제 충돌…"표준 세워야" vs "규제 불필요"

아모데이, 속도조절 거듭 설파…"자동차 업계처럼 3단계 접근법 필요"
젠슨 황 "AI안전은 공학적 문제…속도와 안전 동시 달성할 수 있어"

인공지능(AI) 개발 속도와 안전을 둘러싼 논쟁이 확산하는 가운데 미국 AI 기업을 대표하는 앤트로픽과 엔비디아의 수장이 정반대 시각을 드러내며 맞섰다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 안전을 위해 개발 속도를 늦춰야 한다고 주장한 반면 젠슨 황 엔비디아 CEO는 AI 안전 문제는 공학적으로 해결할 수 있다고 반박했다.

◆"AI 안전 표준 논의해야"

아모데이 CEO는 15일(현지시간) 미국 샌프란시스코 모스콘센터에서 열린 세일즈포스의 연례 '드림포스' 행사에서 마크 베니오프 세일즈포스 CEO의 기조 발표 무대에 올라 AI 안전을 위해서는 자체 점검, 업계 표준 정립, 국제 공조라는 3단계 접근법이 필요하다고 주장했다.

그는 "자동차 회사에서 브레이크 문제나 제조 과정상 결함으로 안전 문제가 생겼다고 가정해보자"면서 "이에 대해 책임 있게 대응하는 방법은 자신의 기록을 먼저 돌아보는 것"이라고 지적했다.

자체 기록을 살펴 관행을 개선하고 투명성을 재확인하며 안전에 더 많은 투자를 하는 것이 가장 먼저 해야 할 일이라는 것이다.

그 후에는 "업계 전체를 조직화해 모두를 위한 안전 표준을 세우기 위해 논의해야 한다"며 "마지막으로 국제적인 협력도 있어야 한다"고 강조했다.

그는 자신이 AI 안전을 위해 제시한 계획도 이와 마찬가지라고 설명했다.

그는 과거 자신이 연산 자원이 늘어날수록 AI가 똑똑해질 것이라는 '스케일링 법칙'을 내놓으며 AI 성능 향상을 예견했다면서도 AI 발전이 이토록 빠를 것이라고는 예상하지 못했다고 말했다.

그는 "비즈니스 세계에서 이런 속도가 가능하다는 점에 놀라고 있다"고 털어놨다.

그러면서 "AI 기술을 현재 상태에서 동결한다고 하더라도 현재 우리가 활용하는 가치는 AI가 가진 전체 가치의 5∼10% 수준에 불과하다"며 "여전히 시장에 확산 적용해 사회적 혜택을 제공할 영역이 무궁무진하게 남아있다"고 했다.

◆"AI 규제 불필요"

그러나 이어서 무대에 오른 젠슨 황 엔비디아 CEO는 정반대 의견을 내놨다.

황 CEO는 "안전은 최우선 과제이지만 또한 공학적 문제"라며 "속도, 안전은 서로 상충되는 선택지가 아니며 두 가지를 동시에 달성할 수 있다"고 반박했다.

그는 AI가 매우 복잡하기는 하지만 결국은 '연산 체계'일 뿐이라면서 이처럼 복잡한 체계를 시험할 수 있는 환경을 올바르게 구축하고, 안전에 확신이 없다면 제품을 개발하더라도 출시하지 않으면 된다고 지적했다.

그는 AI 안전을 위한 규제가 필요하다는 주장에 대해 "시장의 통제력이 이미 작동하고 있으며 새로운 법도, 새로운 규제도 필요 없다"며 "(개별 기업이) 시장에서 인정받을 만한 제품을 출시할 수 있다는 확신이 들 때까지 속도를 조절하면 된다"고 주장했다.

앞서 아모데이 CEO는 지난 12일 개인 블로그에 글을 올려 AI 안전을 위해 개발 속도를 조절해야 한다고 주장해 파문을 불러왔다.

샘 올트먼 오픈AI CEO와 데미스 허사비스 구글 최고과학자, 일론 머스크 스페이스XAI CEO 등은 이에 동조했지만 도널드 트럼프 대통령은 이와 같은 AI 안전 우려를 '사기'라고 주장하며 AI 규제론에 강하게 반대하고 있다.

한편 인공지능(AI) 개발 속도조절 논쟁에 침묵해온 마크 저커버그 메타플랫폼 최고경영자(CEO)는 16일 엑스(X)에 "모든 AI 연구소는 모델을 안전하게 학습시키는 데 필요한 속도로 움직일 책임과 유인이 있으며 이를 보장할 자체 조치를 취할 역량을 갖고 있다"고 밝혔다.

저커버그의 발언은 '외부 평가를 활용해 각자 스스로 책임지자'는 의미로 해석돼 아모데이 CEO의 제안에 동의하지 않는 것으로 보인다.