사생활 침해와 도싱(doxing) 가능성에 대한 우려가 있습니다.
오픈AI가 이번 주 초 최신 모델들을 공개하면서, ChatGPT가 의도치 않게 강력한 지리 추정기(geo-guesser)로 기능하고 있는 것으로 보인다. 테크크런치(TechCrunch)는 새로 이용 가능한 o3 및 o4-mini 모델들이 이러한 '역 위치 검색(reverse location search)' 작업에 매우 탁월하여, 이 새로운 기능을 과시하는 것이 소셜 미디어상에서 바이럴 트렌드를 형성하고 있다고 보도했다. 하지만 이러한 지리적 실마리 추적 능력의 향상은 심각한 사생활 침해 문제를 야기한다. 아울러, 소셜 미디어 플랫폼의 사용자들 사이에서도 이에 대한 우려가 제기되고 있다.
ChatGPT의 이러한 능력은 모델 업데이트를 통해 플랫폼에 강화된 시각적 추론(visual reasoning) 기능의 대표적인 예시다. 이제 ChatGPT는 업로드된 이미지를 기반으로 추론할 수 있으며, 자르기, 회전, 확대 등 포토샵과 유사한 다양한 이미지 편집 작업을 수행할 수 있게 되었다.
소스 보고서에 따르면, 이 유명한 AI 챗봇의 사용자들은 이미 여러 이미지의 정확한 위치를 알아내기 위해 이 기능을 활발히 활용하고 있다. 특히 온라인 게임 '지오게서(GeoGuessr)'를 상상하여, 제공된 이미지를 바탕으로 답변을 내놓도록 ChatGPT에게 요청하는 방식이 인기를 끌고 있다. 이하에는 AI 애호가 유튜버이자 트위터 사용자인 브렌단 조벳(Brendan Jowett)이 공유한 ChatGPT의 위치 추정 능력을 예시로 담았다.
- ChatGPT는 이제 단 한 장의 사진으로 당신의 위치를 추측할 수 있습니다… OpenAI의 새로운 GPT o3 모델을 활용한 사용들의 "역 위치 검색"이 바이럴이 되고 있다. 확대하고, 회전시키고, 아주 작은 이미지의 세부 사항까지 분석하여 도시, 랜드마크, 심지어 술집의 위치까지 정확히 알아낸다. 마치 지오게서 같지만… 현실 (pic.twitter.com/VYLEPKC9Og, 2025년 4월 19일)
조벳이 지적했듯이, 새로 부각된 ChatGPT의 '역 이미지 검색' 기능은 사생활 침해의 위험성을 높이며, 특히 '도싱(doxing)' 문제에 대한 우려를 낳고 있다. 도싱이란 개인의 사적인 정보, 특히 위치나 거주지를 광범위한 인터넷에 무단으로 공개하는 행위를 의미한다. 일반적으로 사람들은 악의적인 목적으로 도싱을 당하며, 가해자들은 피해자들에게 접근하도록 유도하는 것을 목적으로 한다.
흥미로운 점은 테크크런치가 '지오게서' 기능 자체가 o3와 o4-mini 출시와 함께 ChatGPT에 새로 생긴 것은 아니라고 언급했다는 것이다. 다만, 관련 트렌드와 인식이 급증한 것뿐이다. o3가 역 위치 검색에 특히 강점을 보인다고 알려져 있지만, 이미지 추론 기능 없이 출시된 모델인 GPT-4o가 경우에 따라 o3를 능가하여, "대부분의 경우" 동일하게 올바른 답변을 제공한다고 테크크런치는 전했다.
덧붙여, 최신 모델을 사용한 ChatGPT의 AI 지리 추정 기능이 전적으로 신뢰하거나 100% 정확한 기능은 아니라는 점을 언급할 필요가 있다. 이는 당연한 사실이다. 또한 테크크런치는 OpenAI로부터 이 바이럴 지오게서 성공에 대한 공식 성명을 받았다. 요약하자면, 해당 인공지능 개척자는 시각적 추론과 같은 기능으로 도구를 개선하기 위해 노력하는 한편, 동시에 개인적이거나 민감한 정보에 대한 요청을 거부하도록 모델을 훈련하는 데도 시간을 할애하고 있다고 밝혔다. 창의적인 사용자들은 당분간은 안전장치를 우회할 수 있을지 몰라도, OpenAI는 자사 사용 정책 위반의 증거가 발견되는 경우 강력하게 조치할 것임을 분명히 했다.