AI 콘텐츠 과잉 확산에 대한 비판 여파로, Pinterest는 사용자들이 플랫폼에서 접하는 AI 생성 콘텐츠의 양을 제한할 수 있는 새로운 도구를 추가한다고 목요일 발표했다.
사용자들은 이제 특정 카테고리에서 생성형 AI(GenAI) 이미지가 노출되는 것을 개인화하여 제한할 수 있게 되었으며, 회사는 향후 기존의 GenAI 콘텐츠 라벨링을 더욱 눈에 띄게 개선할 것이라고 덧붙였다.
영감이나 구매 잠재적 상품을 둘러보고 북마크하는 데 널리 사용되는 이 사이트는 생성형 AI 콘텐츠의 급증으로 인해 사용자들의 거센 비판에 직면해 왔다. 언론 역시 이 문제를 집중적으로 보도하며, AI가 이미 Pinterest를 훼손했는지, 아니면 여전히 해결 가능한 문제인지를 공개적으로 의문을 제기하고 있다.
만약 이 문제가 해결되지 않고 방치된다면, Pinterest의 평판은 물론 궁극적으로 사업 수익(bottom line)까지 악영향을 미칠 수 있다.
웹상 공간이 AI 생성 콘텐츠로 포화되고 콘텐츠 품질까지 향상되면서, 원본과 가짜를 구분하기가 어려워지자 'AI 슬롭(AI slop)' 문제가 더욱 까다로운 난제로 떠오르고 있다. Pinterest는 학술 문헌을 인용하며 현재 온라인 자료 중 생성형 AI 콘텐츠가 57%를 차지한다고 지적했다.
이러한 문제에 대응하기 위해 Pinterest는 이미 올해 초, 이미지의 메타데이터에 AI 생성 여부가 표시되거나 Pinterest 자체 시스템이 AI 생성물로 감지한 이미지에 "AI 수정됨(AI modified)" 라벨을 도입한 바 있다. 당시 회사는 사용자 스스로 AI 콘텐츠 노출 정도를 선택할 수 있는 소비자용 도구를 "곧" 출시할 것이라고 밝힌 바 있다.
해당 도구들이 현재 앱의 "설정(Settings)" 메뉴 내 "추천 사항 정리(Refine your recommendations)" 항목에서 사용 가능해졌다.
이곳에서 사용자는 뷰티, 예술, 패션, 홈 데코 등 AI 생성 이미지에 취약한 특정 카테고리에서 생성형 AI 콘텐츠 노출을 줄이고자 설정을 구성할 수 있다. Pinterest는 사용자 피드백을 바탕으로 향후 더 많은 카테고리를 도입할 계획이며, 사용자는 언제든지 설정을 수정할 수 있다.
나아가, 사용자는 사이트를 탐색하는 과정에서 AI 이미지에 대한 피드백을 제출할 수 있다. 만약 사용자가 특정 Pin이 생성형 AI 특성 때문에 매력을 느끼지 못한다면, 점 세 개 메뉴를 누르고 카테고리를 선택하여 선호도를 조정할 수 있다.
Pinterest는 이 새로운 제어 기능들이 웹사이트와 안드로이드에서 우선 출시되며, 앞으로 몇 주에 걸쳐 iOS 사용자에게 순차적으로 적용될 것이라고 밝혔다.
출시에 관해 Pinterest의 최고 기술 책임자(CTO)인 Matt Madrigal은 "우리의 커뮤니티가 모든 활동의 중심입니다. 새로운 GenAI 제어 기능을 통해, 사람들은 그 어느 때보다 Pinterest 경험을 개인화할 힘을 갖게 됩니다. 이는 인간의 창의성과 AI 혁신 사이의 올바른 균형을 맞추고, 모든 피드가 사용자에게 가장 영감을 주는 것을 진정으로 반영하도록 보장하기 위함입니다"라고 밝혔다.