최근 일부 ChatGPT 사용자들이 특이한 현상을 목격하고 있습니다. 바로 챗봇이 문제를 추론하는 과정(chain of thought)에서 사용자 이름을 언급하는 것입니다. 이는 과거의 기본 작동 방식이 아니었으며, 여러 사용자들이 자신이 챗봇에게 특별히 이름을 알려준 적이 없음에도 불구하고 이름이 언급되고 있다고 주장하고 있습니다.
이에 대한 사용자들의 반응은 엇갈립니다. 한 소프트웨어 개발자이자 AI 애호가는 이 기능을 "소름 끼치고 불필요하다(creepy and unnecessary)"고 평했습니다. 또 다른 개발자 닉 도보스(Nick Dobos)는 "싫다"고 반응했습니다. X(구 트위터)에서 검색해 보면, ChatGPT가 이름 기반으로 행동하는 방식에 대해 혼란스러워하거나 경계심을 보이는 수많은 사용자의 글이 포착됩니다.
한 사용자는 "마치 선생님이 계속 내 이름을 불러주는 것 같다, LOL"라고 적었으며, 다른 사용자는 "아니, 마음에 안 든다"고 댓글을 달았습니다.
시몬 윌리슨(Simon Willison)이 2025년 4월 17일 올린 트윗에는 다음 질문이 올라왔습니다: "o3가 사고 과정(chain of thought)에서 사용자 이름을 사용하는 것이 불쾌하고 불필요하다는 느낌 외에, 좋아하는 사람이 있나요?"
이러한 변화가 정확히 언제 일어났는지, 혹은 챗봇이 과거 대화를 활용해 응답을 개인화할 수 있도록 업그레이드된 ChatGPT의 '메모리' 기능과 연관된 것인지 명확하지 않습니다. X의 일부 사용자들은 메모리 기능 및 관련 개인화 설정을 비활성화했음에도 불구하고 이름이 언급되기 시작했다고 보고했습니다.
이에 대해 OpenAI는 TechCrunch의 논평 요청에 답변하지 않았습니다.
모델의 사고 과정에서 자신의 이름이 언급되는 경험은 묘한 기분을 자아냅니다. 과연 이 기능이 추가될 이유가 있을까요? 이것이 시스템을 개선할까요, 아니면 제가 GitHub 레포지토리에서 저지른 것처럼 더 많은 오류를 유발할까요?
데바시시 파타나약(Debasish Pattanayak)이 2025년 4월 16일 올린 트윗에는 다음과 같은 문의가 있었습니다: "o4-mini-high가 정말 커스텀 프롬프트에서 이름을 사용하고 있는 건가요?"
어쨌든, 이러한 반발은 OpenAI가 ChatGPT를 사용자에게 더욱 '개인화'하려는 노력 속에서 극복하기 어려워할 수 있는 '불쾌한 골짜기(uncanny valley)'를 극명하게 보여줍니다. 지난주 샘 알트만(Sam Altman) CEO는 AI 시스템이 "평생에 걸쳐 당신을 알아가게 되어" "극도로 유용하고 개인화될 수 있다"고 시사한 바 있습니다. 그러나 이번 최신 반응들을 미루어 볼 때, 모든 사용자가 이 개념에 설득된 것은 아닙니다.
두바이의 정신과 의원인 The Valens Clinic이 발행한 기사는 ChatGPT의 이름 사용에 대한 본능적인 반응을 설명하는 데 도움을 줄 수 있습니다. 이름은 친밀감을 전달하는 수단입니다. 하지만 사람이든 챗봇이든, 이름이 지나치게 많이 사용되면 진정성이 떨어지고 인위적으로 느껴집니다.
Valens는 "개인에게 직접 말을 건넬 때 그 사람의 이름을 사용하는 것은 강력한 관계 형성 전략이다. 이는 수용과 존경을 나타내지만, 원치 않거나 과도한 사용은 위조적이고 침해적으로 느껴질 수 있다"고 설명합니다.
비슷한 맥락에서, 많은 사람들이 ChatGPT가 이름을 사용하기를 꺼리는 또 다른 이유는 이것이 서투르기 때문일 수 있습니다. 즉, 감정이 없는 봇에게 인위적인 감정(의인화)을 부여하려는 어설픈 시도입니다. 대부분의 사람이 토스터가 자신의 이름을 부르는 것을 원치 않는 것처럼, 사람들은 ChatGPT가 이름의 중요성을 '가장하는 것' 자체를 원하지 않습니다.
필자는 이번 주 초 ChatGPT에서 o3가 "카일(Kyle)"에 대한 조사를 진행한다고 언급했을 때 분명히 불쾌감을 느꼈습니다. (금요일 기준으로, 이 변경 사항은 철회된 것으로 보였고, o3는 필자를 'user'로 칭했습니다.) 그 효과는 의도와 정반대였습니다. 즉, 근본 모델이 단순한 프로그래밍 가능한 합성물 그 이상이 아니라는 환상을 스스로 깨는 결과를 낳았습니다.