중국, AI 콘텐츠 규제 초안 발표…딥페이크 등 엄격 관리 예고

미 인공지능(AI) 반도체 칩 회사 엔비디아. 연합뉴스

중국에서 인공지능(AI) 기술을 활용한 콘텐츠 제작에 대한 새로운 규제 초안이 발표되었다. 홍콩 사우스차이나모닝포스트(SCMP)에 따르면, 중국 당국은 AI로 제작된 모든 콘텐츠에 대해 이를 분명히 표시하고 식별 가능하도록 하는 규정을 마련했다.

이번 초안에 따르면, AI로 만들어진 텍스트, 영상, 오디오, 가상 화면 등 모든 종류의 콘텐츠는 반드시 'AI로 제작'되었음을 명확하게 밝혀야 한다. 이를 위해 온라인 콘텐츠 제공자들은 눈에 잘 띄는 표시를 문자나 이미지 형태로 제공해야 하며, 디지털 워터마크나 메타데이터 태그 같은 더 정교한 표식을 사용하는 것도 권장된다.

또한, 초안은 어떠한 단체나 개인도 AI 제작 콘텐츠에서 이러한 식별 표시를 제거하거나 변조하는 행위를 금지하고 있으며, 이에 대한 규제를 강화할 예정이다. AI로 만든 콘텐츠로 인해 타인의 권리와 이익이 침해되지 않도록 철저히 관리할 것이라 강조했다.

중국의 인터넷정보판공실은 이번 규정이 AI 기술을 사용해 콘텐츠를 제작하고 이를 대중에게 제공하는 산업 조직, 기업, 연구소, 공공문화기관 등에 적용된다고 밝혔다. 이는 국가안보와 공공이익을 수호하고, 인민과 단체의 합법적 권리와 이익을 보호하기 위한 조치라고 설명했다.

이번 규제 초안은 작년 시행된 '인터넷 정보 서비스 딥 합성 관리 규정'을 기반으로 마련되었다. 이 규정은 딥페이크 기술을 포함해 AI를 활용한 합성 콘텐츠에 대한 규제를 명문화한 것이다. 딥페이크 기술은 특정 인물의 얼굴이나 목소리를 조작하는 기술로, 이는 인터넷 사기와 명예훼손 같은 범죄에 악용될 위험이 크다고 중국 당국은 우려해왔다.

중국은 지난해 '생성형 AI 서비스 관리 임시규정'도 발표했다. 이 규정에 따르면, AI 서비스 제공자들은 당국에 서비스를 사전 등록하고, 출시 전 보안 평가를 실시해야 한다. 또한, 생성형 AI 서비스는 중국 사회주의 가치에 부합해야 한다는 조건을 명시하고 있다.

AI 기술이 발전함에 따라 이를 악용한 가짜뉴스나 사기가 급증하고 있는 상황에서, 중국뿐만 아니라 유럽연합(EU), 미국 등 다른 나라들도 관련 규제 도입을 검토하고 있다.

새로운 규제 초안이 발표됨에 따라, 한 달 동안 의견 수렴 절차를 거쳐 최종 확정될 예정이다. 이번 규제는 AI 기술을 통해 생성된 콘텐츠가 부정적 방식으로 악용되지 않도록 하고, 국가안보와 공공이익을 보호하는 데 중요한 역할을 할 것으로 보인다.