데이터 관리 회사 DataStax의 카푸르(Kapoor) 회장 겸 CEO는 TechCrunch Disrupt 2024에서 데이터의 중요성에 대한 대화를 열며 “데이터가 없으면 AI도 없고, 비정형 데이터가 없으면 AI도 없고, 게다가 대규모 비정형 데이터가 없으면 AI도 없다”고 역설했다. 이 자리에 VC 회사 NEA의 파트너 사 라르코(Larco)와 데이터 통합 플랫폼의 CEO가 함께했다.
대화는 데이터 품질의 중요성, 생성형 AI에서의 실시간 데이터 역할 등 여러 주제를 다루었지만, 핵심 교훈 중 하나는 AI가 여전히 초창기 단계에 있다는 점을 고려하여, 규모(scale)에 집중하기보다 제품-시장 적합성(Product-Market Fit, PMF)을 우선시해야 한다는 것이었다. 생성형 AI라는 거대한 세계로 진입하려는 기업들에게 주는 조언은 명료하다. 너무 야심 차게 접근하기보다, 실용적이고 점진적인 발전에 초점을 맞춰야 한다는 것이다. 그 이유는, 우리가 아직 이 분야를 완전히 파악하는 단계에 있기 때문이다.
카푸르는 “생성형 AI에서 가장 중요한 것은 결국 사람에게 달렸다”라며, “실제 프로젝트를 구축해 나가는 SWAT 팀들은 매뉴얼을 읽는 것이 아니라, 생성형 AI 앱을 어떻게 만들지 그 매뉴얼을 직접 써 내려가는 사람들”이라고 강조했다.
데이터와 AI가 밀접하게 연결되어 있다는 것은 사실이지만, 기업이 보유한 방대하고 민감하며 여러 곳에 분산된 데이터의 양에 쉽게 압도당하기 마련이다. B2C와 B2B 스펙트럼을 아우르며 수많은 스타트업에서 근무하거나 이사회에 참여하고 있는 라르코는 이러한 초기 단계에서 진정한 가치를 발굴하는 간단하면서도 실용적인 접근 방식을 제시했다.
라르코는 “궁극적으로 달성하려는 목표에서부터 역으로 추적해 보세요. 무엇을 해결하려 하는지, 그리고 그 해결을 위해 어떤 데이터가 필요한가요? 데이터가 어디에 있든지 간에 그것을 찾아내고 그 목적에 맞게 사용하세요”라고 조언했다.
이는 처음부터 회사 전체에 생성형 AI를 무리하게 적용하고, 모든 데이터를 대규모 언어 모델(LLM)에 한꺼번에 쏟아부은 뒤 원하는 결과가 나오기를 기대하는 시도와는 정반대의 접근법이다. 라르코에 따르면, 이런 방식은 부정확하고 막대한 비용만 초래할 가능성이 크다. 그녀는 “작게 시작해야 한다”며, “우리가 관찰하는 것은 회사들이 내부 애플리케이션으로 작게 시작하며, 매우 구체적인 목표를 설정하고, 그 목표에 맞는 데이터를 찾는 경우입니다”라고 설명했다.
출범한 지 12년 만에 ‘데이터 이동(data movement)’ 플랫폼 Fivetran을 이끌며 OpenAI나 Salesforce 같은 유명 고객사들을 확보해 온 프레이저(Fraser)는 기업들이 현재 마주한 실제 문제에 초점을 좁게 맞추는 데 집중해야 한다고 제안했다.
프레이저는 “오늘날 가진 문제부터 해결하세요. 이것이 핵심 원칙입니다(mantra)”라며, “혁신 비용의 99%는 작동하지 않은 시도에 투입되는 것이지, 미래에 대비하려다 무산된 작동하는 기능에 투입되는 비용이 아니다. 우리가 돌이켜 생각할 때 항상 걱정하는 문제들이지만, 그것이 부담하는 비용의 99%를 차지하지는 않습니다”라고 지적했다.
생성형 AI의 초기 애플리케이션과 사용 사례들은 웹 초창기나 최근의 스마트폰 혁명처럼 강력한 새로운 AI 기반 미래의 단면을 보여주고 있다. 하지만 지금까지는 반드시 ‘게임 체인저’급이라고 보기는 어렵다.
카푸르는 “저는 이것을 생성형 AI의 ‘앵그리버즈 시대’라고 부릅니다. 제 삶이 완전히 바뀌는 단계는 아닙니다. 아직도 아무도 제 빨래를 대신해주지 않거든요. 하지만 올해 제가 함께하는 모든 기업들이 작은 사내 시스템이라도 실제로 운영 단계(production)에 올리고 있습니다. 이는 실제로 팀을 구성하고 문제를 해결해 나가는 과정에서 나오는 것입니다. 내년이야말로 ‘변혁의 해’가 될 것입니다. 그때가 되면 사람들이 자신이 속한 회사의 궤적을 실질적으로 변화시키는 앱들을 만들기 시작할 겁니다.”라고 마무리했다.