최근 당사는 Meta에 사용자들이 Ray-Ban Meta 스마트 글라스를 착용하여 촬영한 사진과 비디오를 AI 학습에 활용하는지 문의했다.
원래 Meta는 이 문제에 대해 명확히 밝히지 않았다. 하지만 이후 Meta는 TechCrunch를 통해 좀 더 구체적인 내용을 공개했다.
요약하자면, 사용자가 Meta AI에 공유하는 모든 이미지는 AI 학습에 사용될 수 있다는 것이다.
Meta 정책 커뮤니케이션 매니저인 에밀 바스케즈(Emil Vazquez)는 TechCrunch에 보낸 이메일에서 "멀티모달 AI를 지원하는 지역(현재 미국과 캐나다)에서 Meta AI에 공유된 이미지와 비디오는 당사의 개인정보 보호 정책에 따라 개선 목적으로 사용될 수 있습니다"라고 밝혔다.
이전에 보낸 성명에서 한 대변인은 Ray-Ban Meta로 촬영된 사진과 비디오는 사용자가 이를 AI에 제출하지 않는 한 Meta가 학습에 사용하지 않는다고 명확히 설명한 바 있다. 그러나 사용자가 해당 콘텐츠를 Meta AI 분석에 활용하도록 요청하는 순간, 이 사진들은 완전히 다른 정책의 적용을 받는다.
결국 Meta는 첫 소비자용 AI 장치를 활용해, 점차 강력해지는 AI 모델 개발에 사용될 수 있는 방대한 데이터 풀을 구축하고 있는 셈이다. 이 데이터를 ‘옵트아웃(opt out)’할 수 있는 유일한 방법은 처음부터 Meta의 멀티모달 AI 기능을 사용하지 않는 것뿐이다.
이러한 사실은 심각한 우려를 낳는다. Ray-Ban Meta 사용자가 자신의 집 내부, 가족들, 개인 문서 등을 Meta의 새로운 AI 모델 학습에 제공하고 있다는 사실을 인지하지 못할 수 있기 때문이다. Meta 대변인들은 이 내용이 Ray-Ban Meta의 사용자 인터페이스(UI)에 명확하게 고지된다고 주장하지만, 회사의 경영진은 초기에 이 세부 사항을 TechCrunch에 공개하지 않았거나 밝히고 싶지 않았던 것으로 보인다. 우리는 이미 Meta가 미국인이 인스타그램과 페이스북에 공개적으로 올리는 모든 것을 Llama AI 모델 학습에 사용한다는 사실을 알고 있었다. 그러나 이제 Meta는 이 "공개적으로 사용 가능한 데이터"의 범위를 스마트 글라스를 통해 사용자가 보는 모든 것, 그리고 AI 챗봇에게 분석을 요청하는 모든 데이터까지 확장했다.
이는 특히 지금 시점에서 중요한 문제다. Meta는 수요일부터 Ray-Ban Meta 사용자가 Meta AI를 더욱 자연스럽게 호출할 수 있도록 하는 새로운 AI 기능을 순차적으로 출시했다. 이는 사용자가 학습에 활용될 수 있는 새로운 데이터를 AI에 보내기가 훨씬 쉬워졌다는 것을 의미한다. 나아가 회사는 지난주 2024 Connect 컨퍼런스에서 Ray-Ban Meta용 새로운 실시간 비디오 분석 기능을 발표했는데, 이 기능은 본질적으로 지속적인 이미지 스트림을 Meta의 멀티모달 AI 모델로 전송한다. Meta는 홍보 영상에서 이 기능을 활용해 옷장을 둘러보며 AI로 분석하고 의상을 선택할 수 있다고 언급했다.
하지만 회사가 홍보하지 않는 것은, 사용자가 이 이미지들을 모델 학습 목적으로 Meta에 전송하고 있다는 사실이다.
Meta 대변인들은 TechCrunch를 자사 개인정보 보호정책(privacy policy)으로 안내하며, 해당 정책에는 "AI 기능과의 상호작용은 AI 모델 학습에 사용될 수 있다"고 명시되어 있다. 이는 Ray-Ban 스마트 글라스를 통해 Meta AI에 공유된 이미지까지 포함하는 것으로 보이나, Meta는 여전히 명확히 밝히지 않았다.
대변인들은 또한 Meta AI의 이용 약관(terms of service)을 언급했는데, 여기에는 "Meta AI와 이미지를 공유함으로써, 사용자는 Meta가 안면 특징을 포함하여 해당 이미지를 AI로 분석하는 데 동의합니다"라고 명시되어 있다.
한편, Meta는 회사의 안면 인식 소프트웨어 사용과 관련된 소송을 해결하기 위해 텍사스주에 14억 달러를 지급했다. 해당 소송은 2011년에 출시된 페이스북의 "태그 제안(Tag Suggestions)" 기능과 관련되었다. 페이스북은 2021년까지 이 기능을 명시적 옵트인 방식으로 변경하고, 수십억 명의 생체 정보를 수집했던 기록을 삭제한 바 있다. 주목할 점은 Meta AI의 여러 이미지 기능이 텍사스 지역에서는 출시되지 않고 있다는 점이다.
Meta의 개인정보 보호정책 다른 항목에 따르면, 회사는 또한 Ray-Ban Meta와의 음성 대화 녹취 기록 전체를 기본적으로 보관하여 향후 AI 모델 훈련에 활용한다고 밝히고 있다. 실제 음성 녹음의 경우 옵트아웃(거부) 방법이 있다. 사용자는 Ray-Ban Meta 앱에 처음 로그인할 때 음성 녹음이 Meta의 AI 모델 훈련에 사용될지 여부를 직접 선택할 수 있다.
Meta, 스냅(Snap) 및 기타 기술 기업들이 스마트 글라스를 차세대 컴퓨팅 폼팩터로 밀고 나가고 있음은 분명하다. 이는 과거의 경험들을 되살아나게 하는 동시에, 새로운 영역을 창출하고 있다.