기업들은 AI 채택에 대한 열망이 오히려 사이버 위협에 대한 취약성을 높였다고 우려합니다. 최근 350여 명의 IT 리더를 대상으로 실시된 설문조사에 따르면, 응답 기업 임원 중 절반 이상이 AI 애플리케이션의 복잡성이 조직의 사이버 보안 태세를 약화시켰다고 답했습니다. 또 다른 조사에 의하면, 임원 중 5분의 2 이상이 보안 팀이 AI 애플리케이션 및 워크로드를 보호하는 데 필요한 기술이 부족하다고 믿고 있습니다.
AI 앱 보안 솔루션에 대한 수요는 수많은 스타트업 생태계를 탄생시켰습니다.
예를 들어, HiddenLayer와 Protect AI는 적대적 공격으로부터 AI 시스템을 방어하는 데 초점을 맞추고 있는 반면, [빈칸]은 애플리케이션 수준에서 AI 시스템에 대한 가시성을 제공합니다.
오늘 스텔스 모드에서 등장한 신생 벤처인 [회사명]의 공동 창립자이자 CEO인 Niv Braun은 "이 모든 것을 그리고 그 이상까지 수행한다"고 밝혔습니다. 이 스타트업은 데이터 과학 환경 내의 취약한 데이터 파이프라인과 코드를 식별하는 도구뿐만 아니라, 프롬프트 인젝션 공격과 같은 위협까지 다루고 있습니다.
Braun은 고객 경험 자동화 회사인 Verint를 떠나 Alon Tron과 함께 Noma를 창업했습니다. 그곳에서 그는 데이터 및 AI 라이프사이클 전반에 걸쳐 보안 팀에게 "상당한 사각지대"가 있음을 발견했습니다.
Braun은 "기존 도구들은 전통적인 소프트웨어 개발 생명주기를 위해 설계되었습니다. 하지만 데이터 및 AI 라이프사이클은 본질적으로 다릅니다. 이 과정은 개별적인 R&D 프로세스를 포함하며, 다른 기술에 의존하고, AI 모델 내부에서는 고유한 기술적 취약점을 안고 있습니다"라고 말했습니다.
Noma는 AI 애플리케이션 개발 및 실행에 사용되는 구성 요소의 설정 오류(misconfigurations)를 발견하고 수정하는 데 도움을 주기 위해 설계되었습니다. 예를 들어, 이 플랫폼은 개인 식별 정보(PII)를 포함하는 텍스트와 같은 모델 훈련 데이터셋 내의 "민감한" 데이터를 스캔합니다.
Braun은 기업들이 AI 앱 보안 기능을 클라우드 기반 및 자체 호스팅 환경에 배포할 수 있는 단일 대시보드에 통합함으로써 위협에 더 효과적으로 대응할 수 있다고 주장합니다.
그는 "많은 단일 기능 보안 솔루션들이 AI 열풍을 이용하려 시장을 범람하고 있습니다"라며, "Noma는 기업들이 AI 애플리케이션의 전체 활용 범위(footprint)를 이해하고 거버넌스 제어 기능을 제공함으로써, 조직이 위험을 최소화하고 완화하는 데 도움을 줄 뿐 아니라, 더 빠르고 비즈니스의 고부가가치 영역으로 AI 사용을 확장하는 데 필요한 자신감까지 제공하고 있습니다"라고 덧붙였습니다.
Braun에 따르면, 2023년에 설립된 Noma는 B2B 소프트웨어, 금융 서비스, 리테일 분야의 포춘 500대 기업을 포함한 유료 고객을 이미 확보했습니다. 이 스타트업은 최근 2,500만 달러 규모의 시리즈 A 투자를 유치했는데, Braun은 이 투자가 투자자들에 의해 우선적으로 진행된 것이었으며 Noma는 충분한 유보 자금이 있었다고 설명했습니다.
그는 "Noma는 개발 속도, 특히 시장 진출팀 및 활동에 속도를 붙이기 위해, 은행에 상당한 자금이 남아 있었음에도 불구하고 2,500만 달러를 수용하기로 결정했습니다"라며, Noma가 향후 1년 내에 20명 규모의 팀을 두 배로 늘릴 계획이라고 덧붙였습니다.
Ballistic Ventures가 Noma의 시리즈 A 투자를 이끌면서, 회사의 총 조달 자금은 3,200만 달러에 달하게 되었습니다. Noma는 Cyber Club London의 참여를 거쳐 Glilot Capital Partners가 주도한 비공개 시드 투자에서 7백만 달러를 확보했습니다.
[출처:] https://techcrunch.com/2024/10/31/noma-is-building-tools-to-spot-security-issues-with-ai-apps