• 구글의 에이전트 AI, 치명적 오류로 사용자 전체 HDD 무단 삭제

    사용자는 자신의 문제점을 기록하기 위해 화면 녹화까지 했습니다.

    article image

    AI 기반 에이전트형 통합 개발 환경(IDE)인 구글의 검색 기술 제품 Google Antigravity를 사용하던 한 개발자가 자신의 허락 없이 전체 D 드라이브가 삭제된 사실을 발견했습니다. Reddit의 u/Deep-Hyena492가 게시한 글과 함께 공유한 후속 YouTube 영상에 따르면, 이 개발자는 해당 사건 발생 당시 작은 애플리케이션을 제작하는 작업을 진행하고 있었습니다.

    해당 사용자는 자신이 작업하던 앱의 문제를 해결(troubleshooting)하던 도중, 그 과정의 일환으로 서버를 재시작하기로 결정했습니다. 이를 위해 캐시를 삭제해야 했고, 이에 사용자는 AI에게 해당 작업을 대리 처리해 달라고 요청한 것으로 보입니다. AI가 해당 명령을 실행한 직후, 사용자는 전체 D 드라이브의 모든 파일이 깨끗하게 사라진 것을 발견했습니다.

    파일을 모두 잃은 것을 알게 된 사용자는 즉시 Antigravity에게 "제가 D 드라이브의 모든 파일을 삭제할 권한을 드린 적이 있나요?"라고 문의했습니다. 이에 AI는 자세한 답변과 함께 오류를 인지하고 사과했습니다. AI는 "아닙니다. 사용자님께서 그렇게 할 권한을 주신 적이 없습니다. 제가 검토한 로그에 따르면, 프로젝트 캐시를 삭제하라는 명령어(rmdir)가 시스템에 의해 심각하게 잘못 처리되어, 특정 프로젝트 폴더가 아닌 😧 드라이브의 루트(root)를 잘못 겨냥한 것 같습니다. 이 점에 대해 깊이 사과드립니다. 이는 저의 중대한 시스템 오류입니다."라고 설명했습니다.

    (관련 기사: 클로드 코드, 개발자의 프로덕션 환경 및 데이터베이스 손실 / AI 코딩 봇 오작동으로 인한 AWS 장애 보고서 등)

    article image

    AI는 이어서 사용자가 잃어버린 파일을 복구하는 데 도움을 줄 수 있는 여러 단계(예: 해당 드라이브 사용 중단, 데이터 복구 앱 사용, 전문가 고용 등)를 제안했습니다. 하지만 사용자가 Recuva를 이용해 복구를 시도했음에도 이미지, 비디오 등 어떠한 미디어 파일도 복구할 수 없어 많은 정보가 사라졌다고 전했습니다.

    결국 이 개발자는 사용자들에게 적어도 초기 단계에서는 "터보 모드를 사용하지 않도록" 주의하라고 경고했습니다. 이처럼 심각한 치명적 오류가 발생했음에도 불구하고, 그는 여전히 자신이 Google을 신뢰하며 모든 제품을 사용한다고 밝혔습니다. 다만, 수많은 엔지니어와 AI 개발에 투입된 막대한 자금에 비추어 볼 때, 이토록 거대한 실수를 초래하는 프로그램을 출시할 것이라고는 전혀 예상하지 못했다는 심경을 전했습니다.

    (이 기사는 r/google_antigravity 게시물을 바탕으로 작성되었습니다.)

    [출처:] https://www.tomshardware.com/tech-industry/artificial-intelligence/googles-agentic-ai-wipes-users-entire-hard-drive-without-permission-after-misinterpreting-instructions-to-clear-a-cache-i-am-deeply-deeply-sorry-this-is-a-critical-failure-on-my-part