이전에 단순한 사용자 생성 콘텐츠 전용 공간이었던 틱톡(TikTok)이 사용자들이 포 유(For You) 피드에서 보고 싶은 인공지능(AI) 생성 콘텐츠의 양을 직접 선택할 수 있는 새로운 설정을 출시합니다. 또한, 회사는 AI 생성 콘텐츠에 대한 더욱 발전된 라벨링 기술을 도입합니다.
새로운 AI 생성 콘텐츠(AIGC) 제어 기능은 사용자가 틱톡 피드에서 무엇을 볼지 선택할 수 있는 앱 내 도구를 통해 점진적으로 순차 제공될 예정입니다.
틱톡은 블로그 게시물에서 "‘관심사 관리(Manage Topics)’ 기능은 이미 댄스(Dance), 스포츠(Sports), 음식 및 음료(Food & Drinks) 등 10가지가 넘는 카테고리와 관련된 콘텐츠를 얼마나 자주 접할지 조정할 수 있도록 지원합니다. AIGC 설정 역시 피드에 있는 다양한 콘텐츠 자체를 제거하거나 대체하기보다는, 사용자들이 자신에게 맞는 방식으로 피드 콘텐츠를 맞춤 설정할 수 있도록 돕는 것이 목적입니다."라고 설명했습니다.
이번 변화는 OpenAI나 Meta 같은 기업들이 AI 전용 피드를 적극적으로 도입하면서 이루어졌습니다. 실제로 Meta는 9월에 짧은 AI 생성 비디오를 공유하고 제작할 수 있는 새로운 피드인 'Vibes'를 공개했습니다. 메타의 출시 며칠 뒤에는 OpenAI가 AI 생성 비디오 제작 및 공유를 위한 소셜 미디어 플랫폼인 'Sora'를 공개하기도 했습니다.
Sora가 공개된 이후 현실적인 AI 생성 비디오가 틱톡에서도 게재되기 시작했습니다. 더 나아가 많은 틱톡 사용자들이 역사(history)나 유명인사(celebrities) 등 다른 주제에 대한 게시물용 시각 자료를 제작하는 데 AI를 활용하고 있습니다. 틱톡에 따르면, 새로운 AI 생성 콘텐츠 제어 기능을 통해 사용자들은 이러한 종류의 콘텐츠를 덜 보고 싶을 때 수위를 조절할 수 있으며, 반대로 이를 즐기는 사용자는 원하는 만큼 더 많이 볼 수 있도록 선택할 수 있게 되었습니다.
이 새로운 기능은 '설정(Settings) > 콘텐츠 환경 설정(Content Preferences) > 관심사 관리(Manage Topics)' 경로에서 접근할 수 있습니다. 이곳에서 AI 생성 콘텐츠를 포함한 다양한 주제별 슬라이더를 이동시켜 포 유 피드에서 해당 콘텐츠가 노출되는 비중을 조정할 수 있습니다.
틱톡은 해당 기능 변경 사항이 향후 몇 주에 걸쳐 단계적으로 사용자에게 제공될 것이라고 밝힌 바 있습니다.
한편, 틱톡은 AI 생성 콘텐츠의 라벨링 기능을 개선하기 위해 '보이지 않는 워터마크(invisible watermarking)'라는 기술을 테스트하고 있습니다.
현재 틱톡은 사실적인 AI 생성 콘텐츠에 대한 라벨링을 의무화하고 있으며, AI 생성 여부를 틱톡과 다른 플랫폼들이 확인할 수 있도록 메타데이터를 콘텐츠에 삽입하는 C2PA(Content Provenance and Authenticity)와 같은 업계 표준 기술을 활용하고 있습니다. 다만, 틱톡은 이러한 라벨이 콘텐츠가 다른 플랫폼에서 재업로드되거나 편집될 경우 제거될 수 있다는 한계점을 지적했습니다.
새로운 '보이지 않는 워터마크'를 도입함으로써, 틱톡은 자신만이 판독할 수 있는 워터마크를 추가하여 추가적인 안전장치를 마련합니다. 이는 외부에서 해당 워터마크를 제거하기 어렵게 만들기 때문입니다.
틱톡은 이 보이지 않는 워터마크를 AI 에디터 프로(AI Editor Pro)와 같은 틱톡 자체 도구로 만든 AI 생성 콘텐츠부터 적용하기 시작합니다. 또한 C2PA의 콘텐츠 크레덴셜(Content Credentials)로 업로드된 콘텐츠에도 워터마크를 추가합니다. 회사는 이러한 워터마크가 콘텐츠의 신뢰도 높은 라벨링에 도움이 될 것이라고 강조했습니다. 틱톡은 향후에도 C2PA의 콘텐츠 크레덴셜을 지속적으로 읽어들이고 이를 자체 플랫폼에서 생성된 AI 콘텐츠에도 추가할 것임을 덧붙였습니다.
이러한 노력과 연계하여, 틱톡은 AI 리터러시(AI literacy) 및 안전 교육 콘텐츠 제작을 목표로 비영리 기관과 같은 전문가를 대상으로 200만 달러 규모의 AI 리터러시 펀드도 출범한다고 발표했습니다.