존 데이비(John Davie)는 자신이 설립하고 현재도 이끄는 숙박/요식 산업 구매 전문 기업인 바이어스 엣지 플랫폼(Buyers Edge Platform)이 인공지능(AI) 물결의 혜택을 받기를 바랐다. 하지만 CEO로서 주변을 둘러봐도 만족스러운 선택지는 없었다.
그 해답은 바로 콜렉티브아이큐(CollectivIQ)였다. 이곳은 보스턴에 본사를 둔 회사로, 바이어스 엣지 플랫폼에서 인큐베이팅되었으며, 사용자에게 ChatGPT, Gemini, Grok 등 최대 10개까지의 다양한 모델에서 정보를 통합적으로 가져와 보여줌으로써 AI 질의에 대해 더욱 정확한 답변을 제공한다.
몇 년 전 새로운 AI 도구들이 시장에 나오기 시작했을 때, 데이비는 테크크런치(TechCrunch)와의 인터뷰에서 그 잠재력에 큰 흥분감을 표하며 직원들에게 직접 사용해 보라고 권장했다. 하지만 그의 낙관론은 오래가지 못했다.
데이비는 “약 1년 전, 직원들이 여러 AI 도구나 심지어 개인 라이선스로도 사용하게 되면서, 회사의 민감한 정보가 학습 데이터로 활용될 수 있다는 점을 알고 일종의 경각심을 느꼈습니다”라고 말했다. “우리는 본질적으로 경쟁사에게 정보를 넘겨줄 수도 있는 위기에 처했던 것입니다.”
데이비는 더욱 안전한 엔터프라이즈 AI 계약을 찾아보았지만, 부정확한 정보와 환각(hallucinations)을 생성하는 대형 언어 모델(LLM)의 비싼 장기 계약들 때문에 어려움을 겪었다.
“어떤 직원이 AI를 사용해도 되는지 자격 심사를 해야 했던 상황이 정말 불쾌했습니다.” 그가 말했다. “더 큰 문제는 직원들이 환각 현상이나 편향된 답변에 대해 불만을 제기하는 것이었습니다. 때로는 파워포인트 프레젠테이션이나 핵심 자료에 포함될 만큼 밋밋하고 잘못된 답변들이 나타나곤 했습니다.”
결국 그는 최고 기술 책임자(CTO)에게 이 모든 문제를 해결할 더 나은 무언가를 만들도록 도전했다.
그 결과물이 바로 콜렉티브아이큐였다. 이 스핀아웃(spinout)은 OpenAI, Google, xAI 등 여러 대형 언어 모델의 정보를 동시에 조회하는 도구를 개발했다. 이 소프트웨어는 중복되거나 상이한 정보를 검색하여, 각 LLM이 단독으로 생성한 답변보다 훨씬 정확한 '통합된 답변'을 도출해낸다.
콜렉티브아이큐의 프롬프트와 관련된 모든 데이터는 암호화된다.
데이비는 “기술을 사랑하는 사람이라면 늘 최고 중의 최고를 찾게 되잖아요?”라며 “최신 최고급 아이폰이나 노트북, 혹은 도구를 갖고 싶어 합니다. 저 역시 직원들에게 최고의 AI를 제공하고 싶었지만, 이 모든 것을 하나로 모아주는 제품은 정말 없는 상황이었습니다.”라고 말했다.
콜렉티브아이큐는 2026년 초부터 내부 직원들을 대상으로 소프트웨어를 배포하기 시작했다. 데이비에 따르면 초기 반응은 매우 강력했다. 바이어스 엣지 플랫폼의 많은 고객들이 AI 도구 도입에 대해 비슷한 혼란이나 주저함을 겪고 있다는 것을 확인한 후, 회사는 이를 대중에게 공개하기로 결정했다.
이 소프트웨어는 AI 모델 엔터프라이즈 API를 활용하여 구축되었다. 콜렉티브아이큐가 토큰 비용을 부담하고 고객들이 사용량에 따라 비용을 지불하는 방식으로 운영되는데, 데이비는 이것이 경쟁이 치열한 엔터프라이즈 AI 시장에서 회사가 차별화되는 요소가 될 것이라 기대한다.
데이비는 “이것은 ‘당장 전면적으로 커밋해야 하는 것은 아니다’라고 생각하는 회사들에게 신선한 바람이 되리라 바랍니다. 그들이 실제로 얻는 가치에 대해서만 비용을 지불하도록 하기 때문입니다.”라고 강조했다.
콜렉티브아이큐는 데이비가 전액 자금을 지원했으며, 그는 테크크런치에 올해 후반 어느 시점에 외부 자본을 유치할 계획이라고 밝히기도 했다. 데이비에게 이번 활동은, 자신이 현재 회사를 시작한 지 약 28년 만에 새로운 스타트업을 구축하는 즐거운 경험이었다.
"마치 아주 오래전으로 돌아간 듯한 느낌입니다. 모든 것을 처음부터 다시 시작하며, LLM과 사후 훈련(post training)처럼 제가 전문 분야로 다루지 않던 모든 영역을 샅샅이 파고들고 있죠."라며 데이비는 웃었다. "정말 재미있고 신납니다. 제가 제품을 만드는 소프트웨어 개발자들과 함께 작업하는데, 덕분에 핵심 회사까지 갖게 되면서 큰 즐거움을 느끼고 있습니다."
참고: 이 기사는 CollectivIQ가 모든 프롬프트 데이터를 삭제하지 않는다는 사실을 정정하여 업데이트되었습니다.