오픈AI, AI 안전·보안 대폭 강화… 새 위원회 출범

오픈AI 로고

오픈AI는 인공지능(AI) 기술 개발에서 안전과 윤리 문제를 점검하기 위해 설정한 안전·보안위원회를 더욱 강화한다. 오픈AI는 16일(현지시간) 새로운 조치를 발표하며 위원회를 이사회의 감독 하에 독립적인 기구로 운영한다고 밝혔다.

이번 조치는 기존의 안전팀이 해체되면서 AI 개발 과정에서 안전과 보안이 소홀해질 수 있다는 우려를 반영한 것이다. 오픈AI는 위원회가 자사의 AI 모델 배포 및 개발 지침을 제공하는 안전 및 보안 프로세스를 관할하게 될 것이라고 설명했다.

위원회의 위원장으로는 미 카네기멜런대 지코 콜터 머신러닝 교수가 맡았으며, 오픈AI 이사회 멤버인 애덤 단젤로와 퇴역 장군이자 미국 국가안보국(NSA) 국장 출신인 폴 M. 나카소네가 참여한다. 기존에 브렛 테일러 이사회 의장과 샘 올트먼 최고경영자(CEO)가 이끄는 구조에서 벗어나, 독립 기구로 재구성되면서 인원 배치에도 변화가 생겼다.

오픈AI는 위원회의 주요 역할이 회사가 개발하는 AI 기술의 안전성과 보안성을 확보하는 데 있다고 강조했다. 위원회는 특히 AI 모델 'o1'(오원)의 출시를 앞두고 안전 및 보안 기준과 평가 결과를 검토했다. 'o1' 모델은 오픈AI가 최근 공개한 신기술로, 추론 능력을 갖춘 AI 시스템이다.

오픈AI의 발표에 따르면, 새롭게 구성된 위원회는 앞으로도 AI 기술의 개발 과정에서 일어날 수 있는 모든 안전 및 보안 문제를 철저히 점검할 예정이다. 이를 통해 AI 개발이 더욱 투명하고 책임 있게 이뤄질 수 있도록 감독하는 역할을 하게 된다.