소비자, 기업, 정부까지 저렴하고 빠르며 마법처럼 보이는 AI 도구의 약속에 몰려들면서도, 여전히 하나의 질문이 걸림돌로 작용하고 있습니다. 바로 "어떻게 내 데이터를 사적으로 보호할 것인가?"라는 문제입니다.
OpenAI, Anthropic, xAI, Google 등 거대 기술 기업들은 기업들이 자사 정보는 보호된다고 가정하는 일부 엔터프라이즈 환경에서도 모델 개선이나 안전/보안 모니터링을 명목으로 사용자 데이터를 비밀리에 수집하고 보유하고 있습니다. 규제가 엄격한 산업이나 최첨단 기술을 기반으로 구축하는 기업들에게는 이러한 데이터 활용의 회색지대가 치명적인 장애물이 될 수 있습니다. 데이터가 어디로 가는지, 누가 열람할 수 있는지, 그리고 어떻게 사용될지에 대한 우려가 헬스케어, 금융, 공공 부문 등 여러 분야에서 AI 도입 속도를 늦추고 있습니다.
이러한 상황 속에서 샌프란시스코에 기반을 둔 스타트업인 [Company Name]이 "AI를 위한 신호(The Signal for AI)"를 목표로 등장했습니다. 이 회사의 제품인 CONFSEC은 기반 모델(foundational models)을 감싸는 엔드투엔드 암호화 도구로, 모델 제공업체는 물론 제3자도 프롬프트나 메타데이터를 저장, 열람, 또는 AI 학습에 사용할 수 없음을 보장합니다.
Confident Security의 창립자 겸 CEO인 조나단 모르텐센(Jonathan Mortensen)은 TechCrunch과의 인터뷰에서 "데이터를 타인에게 넘기는 순간, 본질적으로 당신의 프라이버시를 축소하는 것"이라며, "저희 제품의 목표는 바로 이 상충 관계(trade-off)를 제거하는 것입니다"라고 밝혔습니다.
TechCrunch의 단독 보도에 따르면, Confident Security는 지난 목요일 Decibel, South Park Commons, Ex Ante, Swyx로부터 총 420만 달러의 시드 펀딩을 유치하며 비공개 상태를 벗어났습니다. 이 회사는 하이퍼스케일러(hyperscalers), 정부, 기업과 같은 AI 벤더와 최종 고객 사이의 핵심 중개(intermediary) 벤더 역할을 수행하고자 합니다.
모르텐센은 AI 회사들조차도 Confident Security의 도구를 엔터프라이즈 고객에게 제공함으로써 시장을 개척하는 가치를 발견할 수 있다고 언급했습니다. 그는 또한 CONFSEC이 Perplexity가 최근 출시한 [Product Name]과 같은 새로운 AI 브라우저에도 매우 적합하며, 고객들에게 민감한 데이터가 회사나 악성 행위자에게 접근 가능한 곳에 저장되지 않는다는 보장, 또는 업무 관련 프롬프트가 "당신의 직무를 수행할 AI를 훈련하는 데 사용되지 않는다"는 보장을 제공한다고 덧붙였습니다.
CONFSEC은 Apple의 Private Cloud Compute(PCC) 아키텍처를 모델로 합니다. 모르텐센에 따르면, PCC는 클라우드 환경에서 특정 AI 작업을 안전하게 수행하는 과정에서 "Apple이 사용자 데이터를 볼 수 없다고 보장하는 면에서는 현존하는 어떤 솔루션보다 10배 더 우수합니다."
Apple의 PCC와 마찬가지로, Confident Security 시스템은 데이터를 암호화하고 Cloudflare나 Fastly와 같은 서비스를 통해 라우팅하여 익명화하는 방식으로 작동합니다. 따라서 서버는 원본 소스나 내용에 접근할 수 없습니다. 이후에는 엄격한 조건 하에서만 복호화가 가능한 첨단 암호화 기술을 적용합니다.
모르텐센은 "즉, 데이터를 로깅하지 않으며, 학습에 사용하지 않고, 누구도 열람하지 않을 경우에만 복호화가 가능하다는 것을 보장받을 수 있습니다"라고 설명했습니다.
나아가 AI 추론(inference)을 실행하는 소프트웨어는 공개적으로 로그가 기록되고 검토에 개방되어 전문가들이 그 보안 보장 체계를 직접 검증할 수 있게 합니다.
Decibel의 파트너인 제시 레앙(Jess Leão)은 성명을 통해 "Confident Security는 AI의 미래가 인프라 자체에 내장된 신뢰(trust)에 달려있다는 점을 선제적으로 인식하고 있습니다"라며, "이러한 솔루션 없이는 많은 기업이 AI를 도입하여 전진하기 어렵습니다"라고 말했습니다.
이 회사의 역사는 짧지만, 모르텐센은 CONFSEC이 이미 테스트를 거치고 외부 감사를 마쳤으며 상용화가 가능한 상태라고 밝혔습니다. 이 팀은 현재 은행, 브라우저, 검색 엔진 등 다양한 잠재 고객들과 논의를 진행하며 CONFSEC을 자신들의 인프라 스택에 통합하는 방안을 모색하고 있습니다.
모르텐센은 "여러분들이 AI를 가져오고, 저희가 프라이버시를 책임지겠습니다"라고 강조하며 마무리했습니다.