지난 금요일 늦은 오후, 기업들이 흔히 불리하거나 원치 않는 발표를 내놓는 시점에, AI 스타트업 허깅 페이스(Hugging Face)는 자사 보안 팀이 이번 주 초에 허깅 페이스의 AI 모델 및 리소스 생성, 공유, 호스팅 플랫폼인 Spaces에서 "무단 접근"이 발생했음을 공지했습니다.
허깅 페이스는 블로그 게시물을 통해 이번 침입이 Spaces 시크릿(secrets)과 관련되었으며, 시크릿이 계정, 도구, 개발 환경 등 보호된 리소스에 접근하는 열쇠 역할을 하는 민감한 정보임을 설명했습니다. 또한, 일부 시크릿이 제3자에 의해 무단으로 접근되었을 가능성이 있다는 의혹을 제기했습니다.
예방 조치로, 허깅 페이스는 해당 시크릿에 포함된 다수의 토큰을 무효화했습니다. (토큰은 신원 확인에 사용됩니다.) 허깅 페이스에 따르면, 토큰이 무효화된 사용자들은 이미 이메일 통지를 받았으며, 모든 사용자에게는 "모든 키 또는 토큰을 새로고침(refresh)"하고, 허깅 페이스가 더 안전하다고 주장하는 세분화된 접근 토큰(fine-grained access tokens)으로 전환할 것을 권고했습니다.
잠재적인 유출 규모로 인해 몇 명의 사용자나 앱이 피해를 입었는지 즉시 파악하기는 어려웠습니다.
허깅 페이스는 해당 게시물에서 "저희는 문제 조사와 보안 정책 및 절차 검토를 위해 외부 사이버 보안 포렌식 전문가들과 협력하고 있습니다. 이 사건을 법 집행 기관 및 데이터 보호 당국에도 보고했습니다"라고 밝혔습니다. 이어 "이번 사건으로 인해 발생했을 수 있는 혼란에 깊이 유감스럽게 생각하며, 불편을 드린 점에 대해 인지하고 있습니다. 저희는 이를 계기로 전체 인프라의 보안을 강화하는 기회로 삼겠습니다"라고 덧붙였습니다.
허깅 페이스 대변인은 TechCrunch에 보내는 이메일 성명에서 다음과 같이 말했습니다.
"지난 몇 달 동안 사이버 공격 건수가 상당히 증가하고 있었는데, 이는 저희의 사용량이 크게 늘고 AI가 더욱 주류화되고 있기 때문일 수 있습니다. 따라서 얼마나 많은 Spaces 시크릿이 손상되었는지 기술적으로 정확히 파악하기는 어렵습니다."
Spaces에서 발생한 이번 해킹 가능성은 허깅 페이스가 100만 개 이상의 모델, 데이터 세트, AI 기반 앱을 보유한 협업 AI 및 데이터 과학 프로젝트의 최대 플랫폼 중 하나라는 점을 고려할 때, 보안 관행에 대한 지속적인 감시 속에서 발생했습니다.
실제로 허깅 페이스는 불안정한 보안 이슈를 몇 차례 겪어왔습니다. 지난 4월, 클라우드 보안 회사 Wiz의 연구원들은 허깅 페이스가 호스팅하는 앱의 빌드 과정에서 공격자가 임의 코드를 실행하여 내부 네트워크 연결을 검사할 수 있게 하는 취약점(vulnerability)을 발견했으며, 이 취약점은 이미 수정된 상태입니다. 연초에는 보안 회사 JFrog가 허깅 페이스에 업로드된 코드가 최종 사용자 기기에 백도어 및 기타 악성 코드를 은밀히 설치한 증거를 발견하기도 했습니다. 또한 보안 스타트업 HiddenLayer는 허깅 페이스가 공식적으로 안전하다고 주장하는 직렬화 형식인 Safetensors가 변조된 AI 모델을 만드는 데 악용될 수 있는 방법을 식별했습니다.
이러한 상황 속에서 허깅 페이스는 최근 Wiz와 파트너십을 맺고, "플랫폼 전반과 더 광범위한 AI/ML 생태계의 보안 개선을 목표로" Wiz의 취약점 스캐닝 및 클라우드 환경 구성 도구를 사용한다고 발표했습니다.