엔비디아(Nvidia)가 기업들이 AI 에이전트에 추가적인 제어 및 안전장치를 적용할 수 있도록 돕는 세 가지 새로운 NIM(Nvidia Inference Microservices) 마이크로서비스를 출시합니다.
새로운 NIM 서비스 중 하나는 콘텐츠 안전을 목표로 하여 AI 에이전트가 유해하거나 편향된 결과물을 생성하는 것을 방지합니다. 또 다른 서비스는 대화가 승인된 주제에만 초점을 맞추도록 관리하며, 세 번째 서비스는 AI 에이전트의 '탈옥(jailbreak)' 시도, 즉 소프트웨어 제한을 우회하려는 행위를 방지하는 역할을 합니다.
이 세 가지 NIM 마이크로서비스는 엔비디아의 기존 오픈 소스 소프트웨어 및 마이크로서비스 모음인 Nvidia NeMo Guardrails의 일부입니다. 이 모음은 기업들이 AI 애플리케이션을 개선하는 데 도움을 주기 위해 설계되었습니다.
보도 자료에 따르면, "여러 경량의 전문화된 모델을 가드레일로 적용함으로써, 개발자들은 단순히 보다 일반적인 전역 정책과 보호 장치만으로는 발생할 수 있는 격차를 메울 수 있습니다. 전방위적인 접근 방식만으로는 복잡한 에이전트 기반 AI 워크플로우를 적절하게 보호하고 통제하기 어렵기 때문입니다."라고 설명했습니다.
이는 AI 기업들이 기업들에게 자신들의 AI 에이전트 기술 도입이 생각만큼 간단하지 않다는 현실을 체감하고 있음을 보여줍니다. 최근 마크 베니오프(Marc Benioff) 세일즈포스(Salesforce) CEO는 향후 12개월 동안 세일즈포스에서만 10억 개 이상의 에이전트가 운영될 것이라 예측했지만, 실제 시장 상황은 다소 다를 수 있습니다.
딜로이트(Deloitte)의 최근 연구에 따르면, 기업의 약 25%가 이미 AI 에이전트를 사용하고 있거나 2025년까지 도입할 것으로 예상하고 있습니다. 또한, 이 보고서는 2027년까지 기업의 약 절반이 에이전트를 활용할 것으로 예측했습니다. 이는 기업들이 AI 에이전트에 높은 관심을 보이고 있음에도 불구하고, AI 기술의 채택 속도가 급변하는 AI 산업의 혁신 속도를 따라가지 못하고 있음을 시사합니다.
엔비디아는 이러한 이니셔티브를 통해 AI 에이전트 채택이 더욱 안전하고 실험적이지 않다는 인식을 심어주기를 바라는 것으로 보입니다. 실제로 이러한 기대가 충족될지는 시간이 말해줄 문제입니다.