Anthropic은 이번 주, 신규 모델인 Mythos의 공개를 제한적으로 진행한다고 밝혔습니다. 그 이유는 Mythos가 전 세계 사용자들이 의존하는 소프트웨어의 보안 취약점을 발견하는 능력이 매우 뛰어나기 때문입니다.
Anthropic은 Mythos를 일반 대중에게 공개하는 대신, Amazon Web Services(AWS)부터 JPMorgan Chase에 이르기까지 핵심 온라인 인프라를 운영하는 대기업 및 조직 그룹과 공유할 예정입니다.
OpenAI 역시 차세대 사이버 보안 도구에 대해 유사한 계획을 고려하고 있는 것으로 알려졌습니다. 표면적으로는 대기업들이 첨단 LLM을 활용하여 안전한 소프트웨어를 침투하려는 악의적인 행위자들보다 앞서 나가는 것이 목표입니다.
하지만 위의 문장에서 'e-word'(이 문맥에서는 'enhanced'나 'enterprise'와 같은 의미를 암시하는 단어)가 주는 힌트는, 이번 출시 전략이 단순히 사이버 보안이나 모델 성능 과시 이상의 무언가를 포함하고 있음을 암시합니다.
AI 사이버 보안 연구소의 CEO인 Dan Lahav는 Mythos 출시 이전에 TechCrunch와의 인터뷰에서, AI 도구가 취약점을 발견하는 것이 중요하긴 하지만, 특정 취약점의 실제 가치는 공격자가 이를 개별적으로 또는 조합하여 얼마나 의미 있게 사용할 수 있는지 등 여러 요인에 따라 달라진다고 말했습니다.
라하브는 "제가 항상 생각하는 질문은, 발견된 것이 개별적이든 연결 고리(chain)의 일부이든, 매우 의미 있게 악용될 수 있는 것인가"라고 덧붙였습니다.
Anthropic에 따르면 Mythos는 이전 모델인 Opus보다 훨씬 많은 취약점을 악용할 수 있습니다. 하지만 Mythos가 사이버 보안 모델의 만능 해결책이라고 단정하기는 어렵습니다. AI 사이버 보안 스타트업인 Aisle은 Mythos가 달성한 것의 상당 부분을 더 작고 공개 가중치(open-weight) 모델을 사용하여 재현할 수 있었다고 밝혔습니다. Aisle 팀은 이러한 결과가 사이버 보안을 위한 단일 딥러닝 모델이 존재하는 것이 아니라, 처리해야 할 과제에 따라 그 방식이 달라진다는 것을 보여준다고 주장합니다.
Opus가 이미 사이버 보안 분야의 게임 체인저로 여겨진 점을 감안할 때, 프론티어 연구소들이 대기업에만 출시를 제한하려는 또 다른 이유가 있습니다. 그것은 대규모 기업 계약을 유도하는 '플라이휠(flywheel)' 효과를 창출함과 동시에, 경쟁사들이 프론티어 모델을 활용해 새로운 LLM을 저렴하게 훈련하는 '지식 증류(distillation)' 기법으로 모델을 복제하는 것을 어렵게 만들기 위함입니다.
소프트웨어 엔지니어이자 스타트업 exe.dev의 CEO인 David Crawshaw는 소셜 미디어 게시물에서 "이는 최고 수준의 모델이 이제 기업 계약에 의해 제한되어 소규모 연구소에서는 증류할 수 없게 되었다는 사실을 은폐하는 마케팅적 위장일 뿐"이라고 지적했습니다. 그는 또한 "당신과 제가 Mythos를 사용할 무렵에는 기업 전용의 새로운 최고 사양 버전이 나올 것입니다. 이러한 '운동장(treadmill)' 메커니즘은 증류를 통해 모델을 개발하려는 기업들의 위상을 2인자로 격하시키면서 (가장 큰 부분을 차지하는) 기업 자금이 계속 흐르도록 돕습니다"라고 설명했습니다.
이 분석은 현재 AI 생태계에서 관찰되는 현상과 일치합니다. 즉, 가장 크고 강력한 모델을 개발하는 프론티어 연구소들과, 여러 모델에 의존하며, 중국 출신이거나 증류 과정을 거쳤다고 알려진 오픈 소스 LLM을 경제적 우위의 경로로 보는 Aisle과 같은 기업들 간의 경쟁 구도입니다.
프론티어 연구소들은 올해 지식 증류(distillation) 문제에 대해 더욱 강경한 입장을 취하고 있습니다. 블룸버그 보도에 따르면, Anthropic은 중국 기업들의 모델 복제 시도라고 공개적으로 언급한 사례가 있으며, Anthropic, Google, OpenAI 세 주요 연구소는 지식 증류 주체를 식별하고 차단하기 위해 연합하고 있습니다.
지식 증류는 막대한 자본을 투자해 규모를 확장함으로써 얻는 프론티어 연구소의 핵심적인 사업 모델 자체를 위협합니다. 따라서 증류를 막는 것 자체만으로도 가치 있는 노력임은 분명하지만, 이를 선택적으로 진행하는 접근 방식은 해당 분야가 수익성 있는 배포의 핵심이 되면서, 연구소들로 하여금 자신들의 기업용 솔루션을 차별화할 수 있는 길을 열어주고 있습니다.
Mythos든 새로운 모델이든 것이 인터넷의 보안을 실제로 위협하는지는 두고 봐야 하며, 이 기술을 신중하게 순차적으로 출시하는 것이 책임감 있는 방안입니다.
기사 작성 당시 Anthropic은 해당 결정이 지식 증류 관련 우려와도 관련이 있는지에 대한 당사의 질문에 답변하지 않았지만, 이 회사는 인터넷의 안전과 자체 수익성을 보호하는 영리한 방법을 찾아냈을 가능성도 있습니다.