브렛 레벤슨(Brett Levenson)이 2019년 애플(Apple)를 떠나 페이스북(Facebook)에서 비즈니스 무결성(business integrity)을 담당하게 되었을 당시, 이 소셜 미디어 거대 기업은 심각한 문제에 직면해 있었습니다. 당시 그는 단지 더 나은 기술로 페이스북의 콘텐츠 검열 문제를 해결할 수 있다고 여겼습니다. 하지만 그가 빠르게 깨달은 것은 이 문제가 기술적 차원을 넘어선 근본적인 문제였다는 점입니다.
레벤슨에 따르면, 인간 검토자들은 자신들의 언어로 기계 번역된 40페이지 분량의 방대한 정책 문서를 암기해야 했습니다. 게다가 그들은 플래그가 지정된 콘텐츠 한 건을 검토하는 데 겨우 30초 정도의 시간이 주어졌으며, 이 시간 동안 단순히 콘텐츠가 규칙을 위반했는지 여부뿐 아니라, 이에 대해 '차단할지', '사용자를 영구 제재할지', '확산 범위를 제한할지'까지 결정해야 했습니다. 레벤슨이 밝히기에, 이러한 급박한 판단은 "정확도가 50%를 겨우 웃도는 수준"에 불과했습니다.
그는 테크크런치(TechCrunch)와의 인터뷰에서 "인간 검토자들이 정책을 실제로 정확하게 처리할 수 있는지조차 동전 던지기에 비유할 정도였으며, 설사 그랬다 하더라도 피해는 이미 발생한 지 며칠이 지난 후에 이루어지는 사후 대응이었다"고 설명했습니다.
이러한 지연적이고 반응적인 접근 방식은 빠르고 자금력이 풍부한 적대적 행위자들이 판치는 현대 사회에서는 지속 가능하지 않습니다. 특히 AI 챗봇의 등장은 이 문제를 더욱 복잡하게 만들었습니다. 콘텐츠 관리 실패는 챗봇이 십대에게 자해 지침을 제공하거나, AI 생성 이미지를 만지거나, 안전 필터를 우회하는 등 일련의 초미의식적인(high-profile) 사고를 야기했습니다.
레벤슨의 좌절감은 '코드로서의 정책(policy as code)'이라는 아이디어로 이어졌습니다. 이는 정적인 정책 문서를 실행 가능하고 업데이트 가능한 논리 구조로 전환하여 집행과 긴밀하게 결합시키는 방식입니다. 이러한 통찰력은 (회사명)의 설립으로 이어졌으며, 해당 회사는 금요일에 1,200만 달러의 자금 조달에 성공했다고 테크크런치가 단독 입수한 정보에 따르면, Amplify Partners와 StepStone Group이 공동 주도한 투자 라운드였습니다.
Moonbounce는 사용자 또는 AI 등 콘텐츠가 생성되는 모든 영역에 추가적인 안전 계층을 제공하기 위해 기업들과 협력합니다. 이 회사는 자체 대규모 언어 모델(LLM)을 훈련시켜 고객의 정책 문서를 학습하고, 실시간(runtime) 콘텐츠를 평가하며, 300밀리초 이내에 응답하고 조치할 수 있습니다. 고객사의 선호도에 따라, 취할 수 있는 조치는 Moonbounce 시스템이 콘텐츠가 추후 인간 검토를 기다리는 동안 배포 속도를 늦추는 형태일 수도 있고, 혹은 위험도가 높은 콘텐츠를 그 자리에서 즉각 차단하는 형태일 수도 있습니다.
현재 Moonbounce는 세 가지 주요 수직 시장(verticals)에 서비스를 제공합니다. 데이팅 앱과 같은 사용자 생성 콘텐츠 플랫폼, 캐릭터 또는 AI 동반자를 구축하는 AI 기업, 그리고 AI 이미지 생성기입니다.
레벤슨에 따르면, Moonbounce는 수많은 고객들에게 안정적으로 서비스를 제공하고 있으며, 이들이 높은 신뢰도와 가용성을 확보하도록 지원하고 있습니다.
팅커(Thinker)의 출신임을 밝힌 이는 특히 고객들에게 안정적으로 서비스를 제공하는 것에 중점을 두며, 기술적 완성도를 갖추었다는 점을 강조했습니다.
이러한 전문성은 플랫폼을 신뢰할 수 있는 파트너로 자리매김하게 만들었습니다.
이러한 신뢰는 단순한 기술적 지원을 넘어 비즈니스 연속성에 기여하며, 궁극적으로는 고객 경험의 안정성을 극대화합니다.
그는 또한 이 서비스가 플랫폼의 안정성을 보장함으로써 비즈니스 연속성을 유지하는 데 필수적임을 역설했습니다.
마지막으로, 그가 전달한 핵심 메시지는 보안과 안정성이 단순한 기능이 아니라 비즈니스 성공의 가장 근본적인 기반임을 재차 강조했습니다.
[출처:] https://techcrunch.com/2026/04/03/moonbounce-fundraise-content-moderation-for-the-ai-era