메타는 TechCrunch에 레이밴 메타(Ray-Ban Meta) 사진을 언제 AI 훈련에 사용하고, 언제 사용하지 않는지에 대한 추가 정보를 제공했습니다. 자세한 내용은 여기서 확인할 수 있습니다.
메타의 AI 기반 레이밴 메타는 전면에 카메라가 장착되어 있어, 사용자가 직접 사진 촬영을 요청할 때뿐만 아니라 'look'과 같은 특정 키워드로 AI 기능이 작동할 때도 사진을 촬영합니다. 즉, 이 스마트 안경은 사용자가 의도적으로 찍는 사진뿐만 아니라 그러지 않은 상황의 사진까지 대량으로 수집합니다. 하지만 메타는 이렇게 수집된 이미지들을 개인 정보로 보관하겠다고 확답하지 않았습니다.
저희는 메타에 레이밴 메타 사용자의 이미지들을 AI 모델 훈련에 활용할 계획이 있는지, 공공 소셜 미디어 계정의 이미지와 동일하게 처리하는지 문의했습니다. 메타 측은 이에 대해 명확히 답변하지 않았습니다.
월요일 TechCrunch와의 영상 인터뷰에서, 메타의 AI 웨어러블 담당 시니어 디렉터 아누지 쿠마르(Anuj Kumar)는 "저희는 이 문제를 공개적으로 논의하고 있지 않습니다"라고 말했습니다. 영상 통화에 참여한 메타 대변인 미미 허긴스(Mimi Huggins)는 "저희가 일반적으로 외부와 공유하는 내용은 아닙니다"라고 덧붙였습니다. TechCrunch가 메타가 이러한 이미지들로 모델을 훈련하는지 여부에 대한 명확한 설명을 요청하자, 허긴스는 "어느 쪽도 확실하게 말씀드릴 수 없습니다"라고 응답했습니다.
이 점이 특히 우려되는 이유는, 레이밴 메타의 새로운 AI 기능이 수많은 '암묵적' 사진을 촬영할 것이기 때문입니다. 지난주 TechCrunch는 메타가 레이밴 메타를 위한 새로운 실시간 비디오 기능을 출시할 계획이라고 보도했습니다. 이 기능은 특정 키워드에 활성화되면 스마트 안경이 일련의 이미지(실질적으로 실시간 비디오)를 멀티모달 AI 모델로 스트리밍하여, 사용자가 주변 환경에 대한 질문을 지연 시간 없이 자연스럽게 답변할 수 있도록 합니다.
이는 엄청난 양의 이미지입니다. 게다가 이 사진들은 레이밴 메타 사용자가 자신이 사진을 찍고 있다는 것을 의식적으로 인지하기 어려운 순간에 찍히는 사진들입니다. 예를 들어, 스마트 안경에게 옷장 내용물을 스캔하여 옷을 고르는 데 도움을 달라고 요청했다고 가정해 봅시다. 안경은 효과적으로 방과 그 안에 있는 모든 것의 수십 장의 사진을 찍고, 이 모든 데이터를 클라우드 기반 AI 모델에 업로드합니다.
하지만 그 후 이 사진들이 어떻게 처리되는지에 대해서는 메타가 밝히지 않고 있습니다.
레이밴 메타 안경을 착용한다는 것은 곧 얼굴에 카메라를 장착하는 것과 같습니다. 저희가 구글 글래스(Google Glass) 사례를 통해 알 수 있듯이, 이는 타인이 보편적으로 편안함을 느끼는 일은 아닙니다. 따라서 해당 기술을 도입하는 회사라면, "사용자의 얼굴 카메라가 촬영한 모든 사진과 비디오는 전적으로 사적이며 사용자 개인에게만 격리되어 있을 것"이라고 안내하는 것이 당연하게 여겨질 것이라 생각됩니다.
하지만 메타가 지금 그러지 않고 있습니다.
메타는 이미 모든 미국인의 공개 인스타그램 및 페이스북 게시물을 학습 데이터로 사용한다고 밝혔습니다. 이들은 사용 가능한 데이터 범위에 대해 매우 광범위하게 정의하고 있습니다.
이러한 배경 속에서, 기업들은 데이터 주권 및 개인정보 보호 규정을 준수하며 모델을 개선할 필요성을 느끼고 있습니다. 이를 위해 데이터 소유권을 유지하면서도 모델을 훈련시킬 수 있는 새로운 패러다임이 필요해졌습니다.
패러다임의 전환은 연합 학습(Federated Learning)과 같은 기술에서 찾을 수 있습니다. 연합 학습은 개별 기기나 로컬 데이터 저장소에서 데이터를 직접 학습시키고, 중앙 서버에는 가중치나 모델 파라미터와 같은 학습 결과만 전송하여 모델을 개선하는 방식입니다.
이 방식은 민감한 데이터를 중앙 서버로 보내지 않아 데이터 프라이버시 침해 위험을 최소화하고, 사용자의 데이터 주권을 보장하면서도 강력한 AI 모델을 구축할 수 있게 합니다.
연합 학습은 의료, 금융, 통신 등 데이터가 민감하고 규제가 엄격한 산업 분야에서 혁신적인 솔루션을 제공하며, AI 기술의 윤리적이고 신뢰성 있는 발전에 핵심적인 역할을 할 것으로 기대됩니다.