구글 검색 관계자는 구글의 AI가 가진 가장 큰 기회 중 하나가 사용자를 더 깊이 이해하고 그에 맞춰 응답을 개인화하는 능력에 있다고 말했습니다.
이것이 약속하는 바는 '사용자를 알기 때문에' 독보적인 도움을 주는 AI입니다. 그러나 이면의 위험은 서비스라기보다는 감시 체계처럼 느껴지는 AI입니다.
최근 방영된 'Limitless' 팟캐스트 에피소드에서 구글 검색 프로덕트 담당 부사장 로비 스타인(Robby Stein)은 구글의 AI가 조언을 구하는 질문이나 추천을 필요로 하는 질문에 주로 응답하는 경향이 있으며, 이러한 유형의 질문일수록 주관적이고 개인화된 답변으로부터 더 큰 이점을 얻을 수 있다고 설명했습니다.
스타인은 인터뷰에서 "우리 AI가 사용자를 더욱 잘 알고 그 지식 덕분에 독특한 방식으로 도움을 줄 수 있는 거대한 기회가 있다고 생각합니다. 그리고 [구글 개발자 컨퍼런스] I/O에서 논의했던 것 중 하나는 AI가 Gmail과 같은 연결 서비스를 통해 사용자에 대한 더 나은 이해를 얻을 수 있다는 점입니다"라고 말했습니다.
구글은 오랫동안 자사 앱에 AI를 통합해 왔으며, 초기에는 [과거 명칭]으로 알려져 있었습니다. 최근에는 개인 데이터를 다른 AI 제품인 Gemini Deep Research로 가져오기 시작했으며, Gemini는 현재 [제품 이름]과 Drive 같은 구글 워크스페이스 앱에 깊숙이 통합되어 사용되고 있습니다.
그러나 구글이 이메일, 문서, 사진, 위치 기록, 검색 행동 등 더욱 많은 개인 데이터를 AI에 통합하면서, 유용한 비서와 사생활을 침해하는 비서 사이의 경계가 점차 모호해지고 있습니다. 특히 AI가 핵심 기능으로 자리 잡으면서, 옵트인(opt-in) 기반 서비스와 달리 구글의 데이터 수집을 피하기가 점점 어려워지고 있습니다.
구글의 주장은 이러한 심층적인 개인화가 AI를 훨씬 더 유용하게 만든다는 것입니다. 그 아이디어는 구글의 AI 기술이 다양한 구글 서비스에서의 사용자의 상호작용으로부터 학습하고, 그 이해를 바탕으로 더욱 개인화된 추천을 제공할 수 있다는 것입니다. 예를 들어, 사용자가 특정 제품이나 브랜드를 선호한다는 것을 학습했다면, AI 응답이 추천 목록에서 해당 제품이나 브랜드를 우선시할 수 있다는 것입니다.
스타인은 이러한 방식이 단순히 특정 카테고리에서 가장 잘 팔리는 제품 목록을 보여주는 것보다 "훨씬 더 유용할 것"이라고 강조했습니다. 그는 "저는 이것이 사용자 개개인에게 정말로 깊이 있는 지식을 제공하는 무언가를 구축하는 비전이라고 생각합니다"라고 덧붙였습니다.
이러한 아이디어는 히트 애플 TV 쇼 'Pluribus'에서 '타인들(Others)'이 개인에 대한 친밀한 세부 정보를 포함하여 세상의 지식을 흡수하는 방식과 유사합니다. 시스템은 쇼의 주인공 캐롤(Carol)과 상호작용하며 얻은 데이터를 이용해 그녀가 좋아하는 식사를 요리하고, 통신을 위해 친숙한 얼굴을 채택하는 등 모든 것을 개인화합니다.
하지만 캐롤은 이런 개인화된 응답을 친밀하게 느끼지 못하고, 침해적이라고 느낍니다. 그녀는 자신의 데이터를 하이브 마인드(hivemind)와 공유하는 것에 동의한 적이 없지만, 시스템은 그녀가 원하는 것보다 더 많이 알고 있습니다.
(Disclaimer: The following section paraphrases the disclaimer content for better flow and clarity while maintaining the original meaning.)
[공지사항] (Disclaimers attached to the original source are paraphrased here for context but are not part of the main narrative flow.)