PC 속 모든 데이터를 AI 에이전트에게 믿고 맡기시겠습니까?
마이크로소프트가 새로운 에이전트형 AI(agentic AI)를 Windows 11 인사이더 사용자에게 공개하면서, 사용자는 파일 정리나 이메일 전송과 같은 작업을 인공지능을 활용해 수행할 수 있게 되었습니다. 그러나 회사는 새 지원 문서를 통해 인공지능이 파일에 접근하게 하는 것과 관련된 잠재적 보안 위험을 확인하고 이를 알렸습니다. 이에 마이크로소프트는 AI에 제한된 프로필을 부여하는 ‘에이전트 워크스페이스(agent workspace)’라는 실험적 기능을 개발했습니다.
에이전트 워크스페이스는 Windows 11의 제한적 사용자 프로필과 유사하게 작동하여, AI 에이전트가 시스템의 일반 앱과 파일은 사용할 수 있게 하지만, 특정 사용자 전용으로 설치된 소프트웨어 사용이나 사용자 프로필 디렉터리(C:\Users)에 잠겨 있는 데이터에는 접근하지 못하도록 막습니다. 마이크로소프트는 “이 설정은 보안 격리를 제공하고, 병렬 실행을 지원하며, 사용자가 제어권을 유지한다는 측면에서 Windows Sandbox와 같은 완전한 가상 머신보다 효율적입니다”라고 설명합니다. 또한 에이전트가 수행하는 모든 활동은 로그로 기록되며, 제한된 권한만을 갖도록 설계되었고, 오직 원래 생성한 사용자만이 접근할 수 있도록 보장했습니다.
이러한 여러 조치에도 불구하고, 회사는 AI 에이전트에게 전례 없는 수준의 접근 권한을 부여하는 본질적인 위험을 인정하고 있습니다. 마이크로소프트는 “에이전트형 AI 애플리케이션은 UI 요소나 문서에 포함된 악성 콘텐츠가 에이전트의 지침을 무효화할 수 있는 크로스-프롬프트 주입(XPIA)과 같은 새로운 보안 위험을 야기할 수 있으며, 이는 데이터 유출이나 악성 코드 설치 같은 의도치 않은 행동으로 이어질 수 있습니다”라고 지적했습니다.
다행히도 마이크로소프트는 해당 기능을 사용자에게 강제하지 않습니다(현재까지는). 회사는 이 기능이 기본적으로 비활성화되어 있으며, 사용자가 반드시 ‘시스템(System) > AI 구성 요소(AI Components) > 실험적 에이전트 기능(Experimental agentic features)’ 경로를 통해 설정을 명시적으로 활성화해야 한다고 안내했습니다. 더 나아가, 이 시스템을 활성화할 경우 시스템의 모든 사용자에게 적용된다는 점을 고려하여, 사용 전 이러한 시스템의 보안 영향을 충분히 이해할 것을 경고하고 있습니다.
마이크로소프트는 Copilot+ PC의 출시에 맞춰 AI 채택을 강력히 추진해 왔습니다. 하지만 시장에서는 많은 구매자들이 실제 기능을 고려하기보다는 단순히 제품이 ‘있기 때문에’ 구매하는 경향을 보이며, 일부는 Windows에 대한 실망감으로 인해 macOS로 이동하기도 합니다. 더욱이, 이러한 AI 기기에 탑재된 독점 기능들 대부분은 일반 소비자들에게 실질적인 유용성을 제공하지 못하며, 마이크로소프트 리콜(Microsoft Recall)과 같은 잠재력이 있는 기능조차도 심각한 보안 위험 요소로 지적되고 있습니다. 이 에이전트형 AI가 표면적으로는 일반 사용자에게 유용할 수 있으나, 회사 측의 제한 장치에도 불구하고 여러 위험 요소(red flags)를 안고 있다는 점은 분명합니다.
최신 뉴스, 분석 및 리뷰를 피드에서 받으려면 Tom's Hardware를 Google News에서 팔로우하거나 즐겨찾기 출처로 추가하십시오.