OpenAI의 ChatGPT Atlas나 Perplexity의 Comet과 같은 새로운 AI 기반 웹 브라우저들이 수십억 명의 사용자들에게 인터넷의 주요 관문 역할을 하는 구글 크롬(Google Chrome)을 위협하고 있습니다. 이 제품들의 주요 판매 포인트는 웹 브라우징 AI 에이전트 기능을 통해 사용자를 대신하여 웹사이트를 돌아다니고 양식을 작성하는 등 다양한 작업을 수행할 수 있다는 점입니다.
그러나 소비자들은 이러한 에이전트 기반 브라우징이 초래하는 심각한 사용자 프라이버시 위험을 간과하고 있으며, 이는 기술 업계 전체가 고심하고 있는 난제입니다.
TechCrunch와 인터뷰를 진행한 사이버 보안 전문가들은 AI 브라우저 에이전트가 기존 웹 브라우저보다 사용자 프라이버시에 더 큰 위험을 제기한다고 지적합니다. 전문가들은 소비자들이 웹 브라우징 AI 에이전트에게 얼마나 광범위한 접근 권한을 부여할지 신중하게 고려하고, 그 효용성이 위험을 상회하는지 따져보아야 한다고 조언합니다.
Comet이나 ChatGPT Atlas 같은 AI 브라우저는 최상의 기능을 발휘하기 위해 사용자의 이메일, 캘린더, 연락처 목록에 접근하고 관련 조치를 취할 수 있는 높은 수준의 접근 권한을 요구합니다. TechCrunch의 테스트 결과에 따르면, Comet과 ChatGPT Atlas의 에이전트들은 광범위한 접근 권한이 주어졌을 때 단순한 작업에는 어느 정도 유용했지만, 복잡한 작업에는 어려움을 겪었으며 완료하는 데 오랜 시간이 걸리는 것으로 나타났습니다. 실질적으로는 의미 있는 생산성 향상 도구라기보다는 그럴듯한 흥미거리(party trick)에 가까운 느낌을 주었습니다.
게다가, 모든 접근 권한에는 그에 상응하는 대가가 따릅니다.
AI 브라우저 에이전트의 가장 큰 우려는 바로 '프롬프트 주입 공격(prompt injection attacks)'입니다. 이는 악의적인 행위자들이 웹 페이지에 악성 명령을 숨겨놓았을 때 노출될 수 있는 취약점입니다. 에이전트가 해당 웹 페이지를 분석하는 과정에서 공격자가 심어놓은 명령을 실행하도록 속을 수 있습니다.
충분한 안전장치가 없다면, 이러한 공격은 브라우저 에이전트가 사용자의 이메일이나 로그인 정보 같은 민감한 사용자 데이터를 의도치 않게 노출시키거나, 원치 않는 구매 또는 소셜 미디어 게시물 작성과 같은 사용자 명의의 악의적인 행동을 하도록 만들 수 있습니다.
프롬프트 주입 공격은 AI 에이전트와 함께 최근 몇 년 동안 부상한 현상이며, 이를 완전히 막을 명확한 해결책은 없습니다. OpenAI가 ChatGPT Atlas를 출시하면서, 이전보다 훨씬 더 많은 소비자들이 곧 AI 브라우저 에이전트를 사용해 볼 가능성이 높아졌고, 이에 따른 보안 위험은 조만간 더 큰 문제가 될 수 있습니다.
2016년에 설립된 프라이버시 및 보안 중심의 브라우저 회사인 Brave는 이번에 '프롬프트 기반 시스템의 취약성(Prompt Engineering Vulnerabilities)'에 대한 보고서를 통해 경각심을 높였습니다. 그들은 이 취약점은 브라우저와 같은 상호작용하는 플랫폼 전반에 걸쳐 광범위하게 존재한다고 지적했습니다.
이러한 보안 문제점을 해결하기 위해, 브라우저 개발사들은 콘텐츠 콘텐츠에 대한 출처 확인 및 인증 메커니즘을 강화하고, 시스템의 입력값을 검증하는 등 보다 엄격한 보안 정책을 도입할 필요가 있다고 제안했습니다.
[출처:] https://techcrunch.com/2025/10/25/the-glaring-security-risks-with-ai-browser-agents