페이스북은 사용자들에게 자신의 휴대폰 카메라 롤(camera roll)에 대한 접근 권한을 요청하고 있으며, 이 권한은 아직 페이스북에 업로드되지 않은 사진을 포함하여 AI가 편집한 버전의 사진을 자동으로 제안하기 위함입니다.
이 기능은 사용자가 소셜 네트워킹 앱에서 새로운 스토리(Story)를 만들 때 제안됩니다. 이때 화면에 팝업이 나타나 창의적인 제안을 허용하려면 "클라우드 처리(cloud processing)"에 옵트인(opt-in)할지 묻습니다.
팝업 메시지에 따르면, "허용(Allow)"을 클릭하면 페이스북이 카메라 롤에서 콜라주, 리캡, AI 리스타일링, 사진 테마 등 새로운 아이디어를 생성할 수 있게 됩니다. 페이스북은 이 기능이 작동하기 위해 카메라 롤의 미디어를 시간, 위치 또는 테마와 같은 정보를 기반으로 "지속적으로" 자체 클라우드(즉, 서버)에 업로드할 것이라고 설명합니다.
[페이스북 앱 스크린샷, 2025년 6월]
메시지에는 또한 제안은 사용자 본인만 볼 수 있으며, 미디어는 광고 타겟팅에 사용되지 않는다고 명시되어 있습니다.
하지만 "허용"을 누르면 사용자는 [Meta의 AI 서비스 약관(Meta’s AI Terms of Service)]에 동의하는 것이 됩니다. 약관에 따르면, 사용자의 미디어와 얼굴 특징을 AI가 분석하는 것이 허용됩니다. 또한 회사는 창의적인 아이디어를 구상하기 위해 사진 속의 날짜와 사람 또는 사물의 존재 여부도 활용할 것이라고 밝히고 있습니다.
이러한 창작 도구는 개인 미디어를 AI 제공업체와 공유하면서 발생하는 '미끄러운 경사길(slippery slope)'의 또 다른 예시입니다. 다른 거대 기술 기업들처럼, 메타는 야심 찬 AI 계획을 가지고 있습니다. 사용자가 아직 페이스북 소셜 네트워크에 공유하지 않은 개인 사진에 접근할 수 있게 되는 것은 회사에게 AI 경쟁에서 우위를 점하게 할 수 있습니다.
안타깝게도 최종 사용자 입장에서는, 기술 기업들이 앞서나가기 위해 서두르는 과정에서 이러한 기능이 나타날 때 실제로 무엇에 동의하는지 명확하지 않을 때가 많습니다.
[마스토돈(Mastodon)의 '제이슨의 계절(Seasons of Jason)' 스크린샷]
메타의 AI 이미지 처리 관련 약관에는 "공유되는 순간, 사용자는 메타가 얼굴 특징을 포함하여 해당 이미지를 AI로 분석하는 것에 동의합니다. 이러한 처리는 이미지 내용을 요약하고, 이미지를 수정하며, 이미지 기반의 새로운 콘텐츠를 생성하는 기능을 포함하여 혁신적인 새 기능을 제공할 수 있게 합니다"라고 명시되어 있습니다.
같은 AI 약관은 또한 메타의 AI가 AI 출력물을 개인화하기 위해 사용자가 공유한 모든 개인 정보를 "보유하고 사용(retain and use)"할 권한을 부여합니다. 회사는 대화 등을 포함하여 AI와의 상호작용을 검토할 수 있으며, 이러한 검토가 사람에 의해 수행될 수도 있다고 언급합니다. 이 약관은 메타가 무엇을 개인 정보로 간주하는지 명확히 정의하지는 않지만, "프롬프트(Prompts), 피드백(Feedback), 또는 기타 콘텐츠(Content)로 제출하는 정보"를 포함한다고 명시하고 있습니다.
이러한 맥락에서, ‘클라우드’ 처리 과정에서 사용된 사진 정보가 어떻게 처리될지 주목할 필요가 있습니다.
'스토리' 제작 시 이 기능에 대한 사용자 질문이 일부 발견된 것 외에, 사용자들의 큰 반발은 아직 없습니다. 한 사용자는 페이스북이 과거에 공유했던 오래된 사진을 불러와 Meta AI로 애니메이션화한 사례를 발견하기도 했습니다. 또 다른 사용자가 이 기능을 끄는 방법을 문의했을 때는 앱 설정의 '카메라 롤 공유 제안' 섹션을 찾을 수 있었습니다.
[페이스북 앱 스크린샷, 2025년 6월]
이 기능은 페이스북 설정 > 환경설정에서 확인할 수 있습니다.
'카메라 롤 공유 제안' 페이지에는 두 가지 토글 스위치가 있습니다. 첫 번째는 앱을 탐색하는 동안 페이스북이 카메라 롤의 사진을 제안하도록 허용하는 기능이며, 두 번째는 (스토리 팝업 메시지를 바탕으로 옵트인 방식이어야 함) 사용자의 카메라 롤 사진을 활용하여 메타가 AI 이미지를 생성하도록 하는 "클라우드 처리" 기능을 활성화하거나 비활성화할 수 있는 옵션입니다.
사용자 카메라 롤 사진에 AI를 사용하기 위한 이러한 추가 접근 방식은 결코 새로운 것은 아닙니다.
이러한 배경에도 불구하고, 페이스북은 해당 기능을 통해 사용자에게 보다 풍부한 경험을 제공한다고 주장하고 있습니다.
한편, 미국 비영리 소비자 권리 단체인 '디지털 포 믹(Digital for Me)'은 이러한 기능이 사용자 프라이버시를 침해할 수 있다며 우려를 표명하기도 했습니다.
결론적으로, 이 기능은 사용자 경험 향상이라는 명분과 개인 정보 보호라는 민감한 가치가 첨예하게 대립하는 지점을 보여주고 있습니다.