인도는 소셜 미디어 플랫폼들에게 딥페이크 및 기타 AI 생성 사칭 콘텐츠에 대한 규제를 강화하고, 콘텐츠 삭제 명령에 대한 준수 기한을 대폭 단축하도록 명령했다. 이는 세계 최대이자 가장 빠르게 성장하는 인터넷 서비스 시장 중 하나에서 글로벌 기술 기업들이 콘텐츠를 관리하는 방식 자체를 바꿀 수 있는 움직임이다.
지난 화요일에 발표된 이번 개정안은 2021년 인도 정보기술(IT) 규정의 수정 사항으로, 딥페이크 콘텐츠를 공식적인 규제 틀 안에 편입시키고, 합성 오디오 및 시각 콘텐츠에 대한 라벨링과 출처 추적을 의무화하는 동시에 플랫폼들의 준수 기한을 대폭 단축했다. 특히 공식 삭제 명령에 대한 준수 기한을 3시간 이내로, 특정 긴급 사용자 민원에 대한 조치 기한을 2시간 이내로 단축하는 것이 핵심이다.
디지털 시장으로서 인도의 중요성은 이러한 새로운 규정의 영향력을 더욱 키운다. 10억 명이 넘는 인터넷 사용자 수와 젊은 인구 비율이 높은 남아시아 국가인 인도는 Meta, YouTube와 같은 플랫폼들에게 핵심 시장이다. 따라서 인도에서 채택된 준수 조치들이 글로벌 제품 및 콘텐츠 관리 관행에 영향을 미칠 가능성이 높다.
개정된 규정에 따르면, 사용자가 오디오-시각 콘텐츠를 업로드하거나 공유하는 소셜 미디어 플랫폼은 해당 자료가 합성으로 생성되었는지 여부를 사용자에게 고지하고, 그 주장을 검증하는 도구를 배포하며, 딥페이크가 명확하게 라벨링되고 추적 가능한 출처 데이터(provenance data)가 내장되도록 보장해야 한다.
규정상으로는 기만적인 사칭, 비동의 성적 이미지(non-consensual intimate imagery), 중범죄와 관련된 콘텐츠 등 특정 범주의 합성 콘텐츠는 원천적으로 금지된다. 특히 당국이나 사용자가 제기한 사례에서 규정을 위반할 경우, 기업들은 인도 법률상의 안전지대 보호(safe-harbor protections)를 위태롭게 하여 더 큰 법적 책임을 질 수 있다.
규정은 이러한 의무 이행을 위해 자동화 시스템에 크게 의존하도록 요구하고 있다. 플랫폼들은 기술적 도구를 활용해 사용자 공개 정보를 검증하고, 딥페이크를 식별 및 라벨링하며, 애초에 금지된 합성 콘텐츠의 생성이나 공유 자체를 막는 것이 기대된다.
뉴델리에 본사를 둔 정책 컨설팅 회사 The Quantum Hub의 창립 파트너인 로힛 쿠마르(Rohit Kumar)는 "개정된 IT 규정은 AI 생성 딥페이크를 규제하는 보다 정교하고 신중한 접근 방식을 보여준다"고 말하며, "2시간에서 3시간으로 크게 단축된 민원 처리 기한 등은 준수 부담을 실질적으로 높일 것이며, 특히 이 부분에 주목해야 한다"고 강조했다.
한편, 법무법인 율앤로(Y&R)의 변호사 출신 전문가들은 이러한 변화가 콘텐츠 신뢰도와 규제 준수 측면에서 큰 영향을 미칠 것으로 분석했다.
이러한 규제 강화는 플랫폼의 운영 방식 전반에 걸쳐 변화를 요구하고 있어, 기술적 투자는 물론 법적 준수 체계를 정비하는 것이 필수적이라는 분석이 지배적이다.
한편, 소셜 미디어 업계는 이와 같은 규제 흐름에 맞춰 자율적인 가이드라인을 강화하고, 이용자들에게 정보의 출처와 진위를 명확히 고지하는 방안을 모색하고 있다는 후문이다.
[출처:] https://techcrunch.com/2026/02/10/india-orders-social-media-platforms-to-take-down-deepfakes-faster