생성형 AI는 해커 및 기타 악의적인 행위자들이 사용할 수 있는 도구 세트를 막대하게 확장시켰습니다. 이제는 CEO를 딥페이크 하거나 가짜 영수증을 만드는 등 상상할 수 있는 모든 것이 가능합니다.
이러한 분야에서 가장 거대한 생성형 AI 기업인 OpenAI는 이러한 위협을 그 누구보다 잘 알고 있습니다. 실제로 OpenAI는 기업들이 이러한 공격으로부터 방어하는 데 도움을 주는 또 다른 AI 스타트업에 막 투자했습니다.
뉴욕에 본사를 둔 해당 스타트업은 OpenAI의 스타트업 펀드와 Andreessen Horowitz가 공동 주도한 4,300만 달러 규모의 시리즈 A 투자를 유치했다고 수요일 발표했습니다. 이는 OpenAI가 사이버 보안 스타트업에 투자한 최초의 사례이며, OpenAI는 TechCrunch를 통해 이를 확인했습니다.
Adaptive Security는 AI가 생성한 가상 '해킹' 시나리오를 시뮬레이션하여 직원이 이러한 위협을 식별하도록 훈련합니다. 직원이 전화를 받자마자 CTO의 목소리가 인증 코드를 요청하는 상황이 발생할 수도 있습니다. 그러나 이는 실제 CTO의 목소리가 아니라 Adaptive Security가 생성한 스푸핑된 음성입니다.
Adaptive Security의 플랫폼은 단순히 전화 통화만 가짜로 만드는 데 그치지 않습니다. 문자 메시지와 이메일도 모두 다루며, 기업 내 어느 부분이 가장 취약할 수 있는지 위험도를 평가하고 임직원들에게 이러한 위험을 감지하도록 훈련시킵니다.
이 스타트업이 중점을 두는 해킹 유형은 직원이 해서는 안 되는 행동—예를 들어 악성 링크를 클릭하는 것—을 요구하는 방식입니다. 이러한 '소셜 엔지니어링' 방식의 해킹은 기본적인 수준임에도 불구하고 막대한 손실을 초래해 왔습니다. 2022년, 개발자 중 한 명이 받은 가짜 채용 제안으로 인해 Axie Infinity가 6억 달러 이상을 손실한 사례가 대표적입니다.
공동 창업자이자 CEO인 Brian Long은 TechCrunch와의 인터뷰에서 AI 도구들이 소셜 엔지니어링 공격을 전례 없이 쉽게 만들었다고 전했습니다. 2023년에 출범한 Adaptive는 현재 100개가 넘는 고객을 확보했으며, Long은 고객들로부터 받은 긍정적인 피드백이 OpenAI가 자본 구조(cap table)에 관심을 갖게 하는 데 기여했다고 밝혔습니다.
Long은 자신을 과거 두 번의 성공을 거둔 베테랑 기업가로 소개했습니다. 첫 번째는 2014년 Twitter에 매각한 모바일 광고 스타트업 TapCommerce(추정치 1억 달러 이상)였으며, 두 번째는 투자자 중 한 명에 따르면 2021년 기준 가치가 100억 달러를 넘었던 광고 기술 기업 Attentive입니다.
Long은 TechCrunch를 통해 Adaptive Security가 이번에 확보한 자금의 대부분을 엔지니어를 채용하여 제품을 고도화하고, 악의적인 행위자들과의 AI '군비 경쟁'에 대응하는 데 사용할 것이라고 밝혔습니다.
Adaptive Security는 AI 위협 증가에 대응하는 여러 사이버 스타트업들이 속한 긴 목록에 합류하게 되었습니다. Forbes에 따르면, Cyberhaven은 직원들이 ChatGPT와 같은 도구에 민감한 정보를 입력하는 것을 막기 위해 10억 달러의 기업가치 평가를 받고 1억 달러를 최근 유치했습니다. 또한 Snyk 역시 불안정한 AI 생성 코드가 증가한 것이 자사 ARR(연간 반복 매출)을 3억 달러 이상 끌어올리는 데 일부 기여했다고 평가합니다.
한편, 딥페이크 탐지 스타트업 GetReal은 지난달 1,750만 달러를 유치했습니다.
AI 위협이 더욱 정교해짐에 따라, Long은 해커로부터 목소리를 도용당할까 우려하는 기업 임직원들을 위해 간단한 팁을 제시했습니다. 그는 "음성 사서함을 삭제하라(Delete your voicemail)"고 권고합니다.
[출처:] https://techcrunch.com/2025/04/03/openai-just-made-its-first-cybersecurity-investment