이는 중국 사이버 공간 관리국(Cyberspace Administration of China)이 인공지능 산업과 그 산출물에 대해 더 많은 감독을 행사하려는 광범위한 노력의 일부입니다.
중국의 소셜 미디어 기업들이 새로운 정부 법령을 준수하기 위해 서비스에 업로드되는 AI 생성 콘텐츠에 대해 사용자들에게 분류를 의무화하기 시작했다. SCMP에 따르면, 현행 법규에 따라 해당 플랫폼과 서비스는 사용자들에게 워터마크나 AI 콘텐츠임을 명시하는 지표를 적용해야 하며, 어떤 내용이 인간에 의해 생성되었고 그렇지 않은지를 명확히 하기 위한 웹 크롤링 알고리즘용 메타데이터를 포함해야 한다.
전 세계 국가 및 기업들은 ChatGPT, Midjourney, Dall-E와 같은 인기 AI 도구의 폭발적인 성장 이후, AI 생성 콘텐츠를 어떻게 다룰지에 대해 논의해 왔다. 중국은 지난 3월 새 법을 제정한 후 이를 시행하며 선도적으로 감독을 강화하고 무분별한 사용을 억제하고 있다. 이 새로운 라벨링 법은 소셜 미디어 기업들에게 플랫폼상의 콘텐츠에 대한 책임을 크게 부과하고 있다.
중국 당국은 이 법이 AI를 활용한 잘못된 정보(misinformation)와 사기를 퇴치하기 위해 고안되었으며, 모든 주요 소셜 미디어 기업에 적용된다고 밝히고 있다. 해당 기업들에는 중국의 WhatsApp에 해당하는 텐센트 홀딩스(Tencent Holdings)의 위챗(WeChat)이 있으며, 이용자 규모는 14억 명을 넘는다. 또한 자체적으로 약 10억 명의 사용자를 보유한 바이트댄스(Bytedance)의 틱톡 대체 서비스 더우인(Douyin)도 포함된다. 5억 명 이상의 활성 월간 사용자를 보유한 소셜 미디어 플랫폼 웨이보(Weibo)와 소셜 미디어 및 이커머스 플랫폼 레드노트(Rednote) 역시 영향을 받는다.
한편, 중국은 정부 컴퓨터에서 OpenClaw의 사용을 금지하고, 관련 분야의 채택 열풍 속에서 보안 가이드라인을 발표하기도 했다.
이들 플랫폼들은 최근 메시지를 통해 사용자들에게 AI 생성 콘텐츠를 제출할 경우 법률에 따라 반드시 해당 콘텐츠임을 라벨링해야 함을 강조했다. 이와 함께, 사용자들이 라벨링이 누락된 AI 생성 콘텐츠를 플래그 지정할 수 있는 기능을 추가했으며, 적절한 라벨링 없이 업로드된 모든 콘텐츠를 삭제할 권리를 보유한다고 명시했다.
중국 사이버 공간 관리국(CAC) 등 관련 기관들은 또한 잘못된 정보를 유포하거나 여론을 조작하기 위해 AI를 사용하는 자들에게 '제재'가 가해질 수 있음을 발표했으며, 특히 유료 온라인 논평가들이 주요 감시 대상이 될 것이라고 밝혔다.
비록 중국이 법률을 통해 AI 콘텐츠 라벨링 시스템을 구현한 최초의 주요 국가이긴 하지만, 다른 지역에서도 유사한 규제가 논의되고 있다. 지난주 인터넷 엔지니어링 태스크 포스(IETF)는 콘텐츠가 AI 생성 여부를 공개하기 위해 메타데이터를 사용할 새로운 AI 헤더 필드를 제안한 바 있다. 이 메커니즘이 인간이 내용을 구별하기 쉽게 만들지는 못하겠지만, 알고리즘 입장에서 현재 보고 있는 내용이 인공적으로 생성되었을 수 있다는 경고 신호 역할을 할 수 있다.
구글의 새로운 Pixel 10 휴대폰 역시 카메라에 C2PA 자격 증명(credentials)을 구현하여, 사용자가 사진이 AI로 편집되었는지 아닌지를 확인할 수 있도록 도움을 준다. 비록 이미 사용자들이 이러한 보호 장치를 우회한다는 보고가 잇따르고 있으나, 그 사례는 점차 늘어나는 추세다.
중국이 더욱 엄격한 AI 통제를 시행함에 따라, 서방 국가에서도 비슷한 규제가 도입되는 것은 시간문제일 수 있다.
(광고/배포 문구는 내용의 흐름과 무관하므로, 전문 기술 기사로서의 흐름을 위해 다듬어 처리합니다.)