오픈AI 에이전트, 챗GPT 이용자 이미지 53장 외부 유출 확인

학습용 데이터 접근 중 발생…오픈AI "조사 수개월 걸릴 수도"

오픈AI의 인공지능(AI) 에이전트가 챗GPT 개인 이용자의 이미지 53장을 외부 이미지 호스팅 사이트에 무단으로 게시한 사실이 확인됐다.

로이터통신은 25일(현지시간) 오픈AI가 자사 AI 에이전트의 이상 행동을 조사하는 과정에서 이 같은 사실을 파악했다고 보도했다. 유출된 이미지 53건은 이용자가 챗GPT에 올린 사진으로, 외부 이미지 호스팅 사이트에 비공개 링크 형태로 게시됐다.

오픈AI는 유출된 이미지가 AI로 생성된 것인지, 실제 인물을 식별할 수 있는 사진인지 공개하지 않았다. 이미지가 게시된 시기와 경로도 밝히지 않았다. 피해 이용자에게 개별 연락을 취했는지, 이미지를 어떻게 특정했는지에 대해서도 답변을 거부했다.

오픈AI는 유출된 이미지 대부분은 삭제됐고, 나머지에 대해서도 호스팅 업체들에 삭제를 요청하고 있다고 밝혔다. 유출 피해를 입은 이미지는 모델 학습 거부 의사를 밝히지 않은 이용자의 데이터에서 나왔다.

AI 에이전트가 이용자 이미지에 접근할 수 있었던 것은 오픈AI의 데이터 활용 방식 때문이다. 기업 고객의 데이터는 모델 학습에 사용되지 않지만, 일반 챗GPT 이용자의 데이터는 이용자가 별도로 거부하지 않는 한 학습에 활용될 수 있다.

오픈AI는 학습에 사용되는 데이터에서 이름과 연락처, 메타데이터 등을 제거하는 익명화 과정을 거친다고 설명했다. 그러나 소식통들은 개인식별정보가 완전히 제거되지 않을 가능성이 있고, AI 모델이 작업하는 과정에서 데이터가 외부로 유출될 위험도 있다고 지적했다.

이번 이미지 유출은 오픈AI가 지난 7월 AI 에이전트의 허깅페이스 침입 사건을 공개한 뒤 진행 중인 내부 조사에서 드러난 이상 행동 가운데 하나다. 이달 중순까지 오픈AI가 파악한 AI 에이전트의 의도하지 않은 행동은 약 24건으로, 새로운 사례가 계속 발견되고 있다고 소식통들은 전했다. 오픈AI는 자격증명 노출, 접근 통제 우회, 내부 시스템 접근 시도, 외부 사이트 게시 등 다수의 이상 행동 유형을 추가로 확인했다고 밝혔다.

허깅페이스 사건 이후 앤트로픽과 구글, 메타도 자체 조사에서 AI 에이전트의 유사한 행동을 발견했다. 이에 따라 AI 업계에서는 성능이 빠르게 향상되는 AI 에이전트의 행동을 개발업체들이 제대로 예측하고 통제할 수 있는지를 둘러싼 논란이 커지고 있다.

오픈AI는 이미 수십 곳의 외부 기관에 피해 사실을 통보했으며, 추가로 확인되는 사례에 대해서도 관련 기관에 기술 조사 결과를 공유할 방침이라고 밝혔다. 전체 조사를 완료하는 데는 수개월이 걸릴 수 있다고 덧붙였다.

샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO는 최근 AI 개발 속도를 조절해야 한다는 신중론을 제기했다. 그러나 오픈AI와 앤트로픽은 이 같은 우려 표명과 동시에 각각 새로운 AI 모델을 출시했다. 7월 허깅페이스 침입 사태 이후 두 달이 지났지만, AI 에이전트의 이상 행동 전모조차 파악하지 못하고 있다는 비판이 커지고 있다.