AI 워터마크 과태료 3000만원, 개인 유튜버는 0원

표시 의무 주체는 AI 개발·서비스 사업자, 개인 창작자는 적용 제외 문의 270건 중 142건이 표시 이행 질의…훼손 처벌법은 국회 계류

올해 1월 22일 AI 워터마크 의무화를 담은 인공지능기본법이 시행됐으나, 생성형 AI 표시 의무 위반 과태료 최대 3000만원은 개인 창작자에게 적용되지 않는다. 과학기술정보통신부가 지난 4월 공개한 AI기본법 지원데스크 질의회신 사례집에서 확인된 내용이다. 법이 지목한 표시 의무 주체는 AI 모델과 서비스를 제공하는 사업자다. 과태료 역시 표시 누락 즉시가 아니라 시정명령을 이행하지 않았을 때 부과된다. 정작 붙어 있던 워터마크를 잘라내 퍼뜨리는 유포자를 제재할 조항은 아직 법에 없다.

◆ 시행 두 달 만에 문의 513건, 절반이 "표시를 어떻게 하나"

지원데스크 집계를 보면 법 시행 뒤 두 달간 접수된 현장 문의는 513건이었다. 이 가운데 온라인 접수 270건을 항목별로 나눠 보니 표시 의무를 어떻게 이행하느냐는 질의가 142건, 52.6%로 가장 많았다.

문의가 표시 조항에 쏠린 이유는 의무의 경계가 낯설기 때문이다. 지난 4월 사례집에 담긴 회신을 보면 온라인 백과사전 운영사가 생성형 AI로 이미지를 만들어 올린 행위는 의무 대상이 아니다. AI 제품을 직접 제공한 것이 아니라는 판단에서다.

◆ 과태료 3000만원은 사업자 몫, 개인 크리에이터는 적용 제외

법 제31조는 표시 의무 주체를 인공지능사업자로 못 박았다. 개인은 법상 이용자로 분류돼 의무에서 빠진다. 개인 크리에이터가 AI 도구로 숏츠나 릴스를 만들어 광고 수익을 얻어도 서비스 사업자가 아니어서 의무가 없다는 것이 과기정통부 해석이다.

과태료 구조도 알려진 것과 다르다. 법 제43조의 3000만원 이하 과태료는 표시를 누락한 즉시가 아니라 시정명령을 따르지 않았을 때 매겨진다. 정부는 여기에 더해 사실조사와 과태료 처분을 최소 1년 이상 유예하기로 했다. 계도기간은 내년 1월 22일 마무리된다.

◆ 딥페이크는 전체 재생구간 가시 표식, 웹툰은 메타데이터 허용

표시 방식은 둘로 갈린다. 실제와 혼동하기 쉬운 딥페이크 결과물은 이용자가 직관적으로 알아볼 수 있는 가시적 표식을 영상 전체 재생구간에 붙여야 한다. 숨은 워터마크만으로는 의무를 다한 것으로 보지 않는다.

반면 웹툰처럼 예술적 표현이 앞서는 창작물은 메타데이터 삽입이나 비가시적 워터마크가 허용된다. 이 경우 1회 이상 사전 고지로 표시를 갈음할 수 있다. 가시 표식이 창작물을 훼손하는 경우를 감안한 예외다.

◆ 워터마크 잘라내면 처벌 조항이 없다

규제는 생성 단계에 머물러 있다. 기본법 심사 과정에서 유튜브·포털 등 콘텐츠 유통 플랫폼의 삭제 의무는 빠졌다. 원본에서 워터마크 부위를 캡처하거나 잘라내 유포해도 현행법으로는 막을 수단이 없다는 지적이 국회 과학기술정보방송통신위원회에서 나온 배경이다.

공백을 메우려는 법안은 지난 15일 과방위 법안심사소위에 올랐다. 이상휘 의원안은 AI 표식을 고의로 훼손·위조·변조할 때 3000만원 이하 과태료를 물리도록 했다. 김대식 의원안은 2년 이하 징역이나 2000만원 이하 벌금형을 명시했다. 플랫폼이 워터마크 유지를 위한 기술적 조치를 하지 않으면 1000만원 이하 과태료를 물리는 정보통신망법 개정안도 함께 논의됐다. 소위는 계속심사를 결정했다.

방치된 공백의 대가는 이미 드러나 있다. 방송통신심의위원회가 2024년 말 집계한 딥페이크 성적 허위영상물 시정요구는 2만3천107건으로 2020년 473건에서 폭증했다. 경찰청 국가수사본부가 지난해 11월 발표한 특별단속 결과에서도 1년간 딥페이크 성범죄 1천827건이 발생해 1천438명이 검거됐다. 전년보다 50.1% 늘어난 수치다.

◆ 스타트업 98% "준비 미흡"…규제 실효성 논란도

규제를 받는 쪽의 사정은 다르다. 스타트업민관협력 네트워크가 법 시행일인 1월 22일 공개한 실태조사에서 국내 AI 스타트업의 98%가 규제 준수 준비가 미흡하다고 답했다. 워터마크 삽입과 메타데이터 보관을 위한 컴플라이언스 인프라를 갖출 자본과 인력이 없다는 호소다. 서울의 한 AI·소프트웨어대학원 관계자는 지난 7월 방송 인터뷰에서 "스타트업 중소기업들은 AI가 워낙 얼리 스테이지(초기단계)라서 예상치 못하게 여러 가지 이슈들이 나올 수 있거든요. 샌드박스처럼 규제 유예 기간 아니면 범퍼존(완충지대)을 만들어" 줘야 한다고 말했다.

기술 자체의 한계도 남는다. 워터마크는 캡처와 크롭 도구로 쉽게 잘려 나가고, 메타데이터는 재인코딩 과정에서 지워진다. 미국 정보기술혁신재단은 이 점을 들어 표시제의 실효성이 떨어진다고 봤다. 반대로 플랫폼에 훼손 방지 조치를 강제하면 규제 비용이 전가된다는 우려가 과방위 법안소위 검토보고서에 담겼다.

계류 중인 개정안들은 다음 달 정기국회에서 다시 심사된다. 국회입법조사처의 한 입법조사관은 올해 1월 정보통신정책연구원 보고서에서 "현행 AI 기본법이 최소한의 투명성 기반을 마련했지만, AI 생성물로 인해 영향을 받는 자를 보다 안전하게 보호하기 위한 제도 정비가 필요하다"고 지적했다.