메타는 목요일에 콘텐츠 정책 집행(content enforcement)에 더욱 정교한 AI 시스템을 도입한다고 발표했으며, 이와 함께 제3자 공급업체 의존도를 축소할 계획이라고 밝혔습니다. 콘텐츠 정책 집행 업무에는 테러리즘, 아동 착취, 마약, 사기, 스캠 등 관련 콘텐츠를 탐지하고 제거하는 작업이 포함됩니다.
회사는 해당 AI 시스템을 기존 콘텐츠 집행 방식보다 일관되게 우수할 때 자체 앱 전반에 걸쳐 배포할 것이라고 전했습니다. 동시에, 콘텐츠 정책 집행 과정에서 외부 공급업체에 대한 의존도를 줄일 것이라고 덧붙였습니다.
메타는 블로그 게시물에서 "여전히 사람이 콘텐츠를 검토하겠지만, 이 시스템들은 반복적인 그래픽 콘텐츠 검토나, 불법 마약 판매나 사기 등 적대적 행위자(adversarial actors)들이 전술을 끊임없이 변경하는 영역처럼 기술적으로 더 적합한 업무를 처리할 수 있을 것"이라고 설명했습니다.
메타는 이러한 AI 시스템이 더 높은 정확도로 더 많은 위반 사항을 감지하고, 사기 예방 능력을 높이며, 실시간 사건에 신속하게 대응하고, 과도한 정책 집행(over-enforcement)을 줄일 수 있다고 확신하고 있습니다.
회사에 따르면, 초기 AI 시스템 테스트 결과는 매우 유망했습니다. 이 시스템은 기존 검토 팀 대비 두 배 많은 성적인 접대 콘텐츠를 감지하면서도 오류율을 60% 이상 줄이는 성과를 보였기 때문입니다. 또한, 유명인사나 기타 고위 인물과 관련된 사칭 계정을 식별하고 예방할 수 있으며, 새로운 위치에서의 로그인, 비밀번호 변경, 프로필 수정과 같은 신호를 감지하여 계정 탈취를 막는 데도 도움을 줄 것이라고 밝혔습니다.
나아가, 메타는 이 시스템을 통해 사기범들이 사람들을 속여 로그인 정보를 탈취하려는 시도인 하루 약 5,000건의 사기 시도를 식별하고 완화할 수 있다고 언급했습니다.
메타는 블로그 게시물에서 "전문가들이 AI 시스템을 설계하고, 훈련하며, 감독하고, 평가할 것이며, 성능을 측정하고 가장 복잡하고 영향력이 큰 결정을 내릴 것입니다. 예를 들어, 계정 비활성화에 대한 항소나 법 집행 기관에 대한 신고와 같이 가장 위험하고 중요한 결정 영역에서는 여전히 사람이 핵심적인 역할을 수행할 것입니다"라고 강조했습니다.
이러한 변화는 메타가 지난 1년여 동안 도널드 트럼프 대통령이 두 번째 임기를 시작한 시점과 맞물려 콘텐츠 중재 규칙을 완화해 온 과정에서 나왔습니다. 작년에는 외부 기관을 활용하던 제3자 팩트 체크 프로그램을 중단하고 X와 유사한 커뮤니티 노트(Community Notes) 모델을 채택했습니다. 또한, '주류 담론의 일부 주제'에 대한 제한을 해제하고 사용자들에게 정치적 콘텐츠에 대해 '개인화된' 접근 방식을 취하도록 장려할 것이라고 밝힌 바 있습니다.
한편, 메타는 소셜 미디어 거대 기업들이 아동 및 젊은 사용자들에게 피해를 입혔는지 여부로 인해 여러 법적 소송에 직면하고 있는 상황이기도 합니다.
이와 별도로, 메타는 목요일에 사용자들에게 24시간 연중무휴 지원을 제공하는 '메타 AI 지원 비서(Meta AI support assistant)'를 출시한다고 발표했습니다. 이 지원 비서는 iOS 및 Android용 페이스북과 인스타그램 앱, 그리고 데스크톱용 페이스북 및 인스타그램 도움말 센터를 통해 전 세계적으로 순차 배포되고 있습니다.