• 헤라클레스 AI, 대규모 언어 모델을 대중적 관심보다 일찍부터 다뤄오다

    article image

    헤라클레스AI(HerculesAI, 이전 명칭 Zero Systems)는 2017년부터 전문 서비스 자동화에 매진해 왔으며, 초기에는 법률 산업에 집중했습니다. 이 과정에서 회사는 LLM(대규모 언어 모델) 기술을 공개적인 논의가 활발해지기 훨씬 전부터 몇 년간 자체적으로 구축해 왔습니다. 그 덕분에 2022년 말 ChatGPT가 등장하며 모두가 LLM에 주목하게 되었을 때, 회사는 최적의 시기에 자리 잡게 되었습니다.

    이 회사에 따르면, 최근의 모멘텀을 이어가기 위해 2,600만 달러 규모의 시리즈 B 투자를 유치하며 성장을 가속화했습니다.

    CEO 겸 공동 창립자인 알렉스 바빈(Alex Babin)은 회사가 2020년경부터 5억 개 매개변수에서 20억 개 매개변수에 이르는 소규모 모델을 개발해 왔으며, 이를 규정 준수(compliance) 목적으로 엣지 디바이스(edge devices)에서 구동해왔다고 설명합니다. 그러나 ChatGPT 등장 이전에는 이러한 솔루션의 측면이 큰 주목을 받지 못했습니다.

    바빈은 테크크런치(TechCrunch)와의 인터뷰에서 "ChatGPT가 나오기까지는 아마 8~9개월 정도 됐을 겁니다. 당시 고객사들의 CIO(최고정보책임자)들에게 LLM이 무엇인지 설명했지만, 아무도 크게 관심을 두지 않았습니다."라고 말했습니다. 물론 그 해 11월까지 상황은 급변했고, 갑자기 모두가 이 개념에 열광적으로 관심을 갖게 되었습니다. 이러한 시장 변화가 지난 1년간 회사의 급격한 성장을 이끄는 원동력이 되었습니다.

    현재 회사는 세 가지 핵심 기능을 수행하는 다양한 모델을 보유하고 있습니다: 지능형 데이터 추출(intelligent data extraction), 데이터 변환(data transformation), 그리고 데이터 검증(data verification)입니다. 첫 번째는 문서를 분석해 데이터를 가져오는 비교적 기본적인 과정입니다. 두 번째는 해당 데이터를 중심으로 규칙과 구조를 자동적으로 구축하며, 세 번째인 검증(verification) 단계가 특히 중요하다고 강조합니다.

    바빈은 "추출된 정보를 가져와 규정, 정책, 계약, 법률 등 출처의 진실(source of truth)에 따라 비교하고 변환할 수 있다는 것이 정말 핵심적인 가치입니다."라며, "이를 통해 원본 자료와 상충하는 모든 이슈를 직원들에게 자동으로 플래그 지정할 수 있습니다."라고 설명했습니다.

    이 세 가지 영역은 또한 스타트업이 이러한 모든 활동을 자동화하는 데 도움을 주는 다중 에이전트 시스템(multi-agent system)을 구축할 수 있게 했습니다. 그는 "이러한 다중 에이전트 시스템은 자동화된 의사결정이 필요한 고가치, 연속적인 프로세스 또는 워크플로우에 적용될 수 있습니다."라고 덧붙였습니다.

    이러한 기술은 규제 산업의 핵심 고객들에게 매우 중요합니다. 오늘날 이 분야는 법률 영역에 국한되지 않고 보험 및 금융 서비스 분야까지 확장되었습니다.

    회사의 AI 전략은 성공적으로 작용하고 있는 것으로 보이며, 지난 한 해 동안 4배의 매출 성장을 기록했습니다. 고객사로는 미국 상위 100대 로펌의 30%를 차지하고 있습니다. 또한 머서(Mercer), 스탠더드앤푸어스(Standard & Poor’s), 스테이트 팜(State Farm) 등을 포함한 수많은 포춘 500대 기업 고객을 확보하고 있습니다.

    현재 직원 수는 약 75명 수준이지만, 바빈은 추가 자금 확보에도 불구하고 규모를 효율적으로 유지하며, 인력 충원보다는 내부 프로세스 개선 및 자동화에 더욱 투자할 계획입니다. 그는 "추가 인력을 고용할 필요가 없다고 생각합니다. 우리는 자체적인 내부 프로세스와 자동화에 집중적으로 투자할 것입니다. 더 큰 규모로 성장하기 위해서는 자사 제품을 활용하여 해결책을 제시하는 것이 중요하기 때문입니다."라고 밝혔습니다.

    이번 자금 조달은 스트림라인드 벤처스(Streamlined Ventures)가 주도했으며, 프로프드 VC(Proof VC), 톰슨 로이터 벤처스(Thomson Reuters Ventures), 알럼나이 벤처스(Alumni Ventures) 및 여러 업계 엔젤 투자자들이 참여했습니다.

    [출처:] https://techcrunch.com/2024/07/11/herculesai-has-been-working-with-llms-long-before-it-was-cool