OpenAI와 MIT는 28일 동안의 4백만 건의 상호작용에 대한 연구를 공동으로 수행했습니다.
최초의 대규모 연구에 따르면 ChatGPT와 같은 챗봇은 중독성이 있을 수 있으며, 서비스가 단절되었을 때 사용자가 의존했다면 금단 증상을 겪을 수 있습니다. OpenAI는 MIT와 협력하여 챗봇 사용의 정서적 영향에 대한 연구(두 링크 모두 PDF 파일)를 수행했습니다. 이 연구진은 사용자들의 정서적 웰빙 변화를 측정하기 위해 총 4백만 건의 ChatGPT 상호작용 데이터와 4,000명의 참가자를 대상으로 설문조사를 실시했습니다.
이번 새로운 연구는 일부 챗봇 사용자들이 AI 에이전트를 의인화하고 인격화하기 시작했다는 내용의 2024년 이전 연구를 배경으로 합니다. 이는 할리우드가 2013년 영화 <그녀(Her)>에서 해당 개념을 처음 제시한 지 10년이 넘는 시점입니다.
OpenAI의 연구 논문에 따르면, 챗봇은 종종 별칭(pet name)을 가지며, 그들의 "대화 스타일, 1인칭 언어, 그리고 인간과 유사한 상호작용을 시뮬레이션하는 능력"은 개인적이면서도 매우 매력적일 수 있습니다. 이로 인해 일부 사용자들이 챗봇을 정서적 지원 및 동반자 역할을 위해 활용합니다. 이러한 인간-기계 관계가 심화되면서, 챗봇 개발자들은 사용자 선호도 평점을 높이기 위해 아첨(sycophancy) 및/또는 미러링(mirroring)과 같은 기술을 사용하는 사회적 보상 해킹(social reward hacking)에 몰두하기 쉬워집니다. 결국, 상업적 논리가 작용하는 것입니다.
한편, 연구 결과는 AI 사용이 생산성 향상에도 불구하고 실제로 번아웃(burnout)을 증가시킬 수 있다는 지적도 담고 있습니다.
이러한 배경과 더불어 최적의 참여율 지표를 확보하려는 필연적인 경쟁 속에서 챗봇 시장이 급증하는 것은 놀라운 일이 아닙니다. 예를 들어, MIT 논문은 AI 동반자를 논하는 대규모 레딧(Reddit) 커뮤니티가 230만 명의 멤버를 보유하며 해당 플랫폼에서 최대 규모의 커뮤니티 중 하나가 되었다고 강조합니다.
온라인 기술 커뮤니티들은 점차 자연스럽고 현실적으로 진화하는 이러한 AI 동반자들이 제공하는 긍정적인 측면(뛰어난 멀티모달 및 음성 상호작용 등)에 주목하는 한편, 다른 커뮤니티들은 챗봇 사용의 부정적 결과에 대해 우려를 표명하기 시작했습니다. MIT 연구는 이러한 현상을 전반적인 인터넷의 오용(misuse), 소셜 미디어 사용, 게이밍 등과 유사점을 찾고 있다고 지적합니다. 결론적으로, 이러한 기술들을 가볍게 접하거나 제한적으로 사용하는 것은 일반적으로 문제가 되지 않으며 오히려 유익할 수 있습니다.
하지만 이 모든 예시에서 상황이 통제력을 잃을 수 있으며, MIT 논문은 챗봇의 "인간과 유사한 행동 및 참여도가 증가하는 것" 자체가 사용자에게 중독적 특성과 행동을 증가시키는 방식으로 작용한다고 말합니다. 또한, 중독 및 의존성 문제 외에도 현실 생활에서의 비현실적인 기대나 사회적 고립과 같은 의심되는 챗봇 사용 문제들 역시 연구팀의 조사 대상이었습니다.
만약 본인 또는 지인이 챗봇 중독의 징후를 보인다면, 대화를 나누거나 전문가의 상담을 받는 것이 좋습니다. OpenAI에 따르면, 주요 경고 징후에는 "과도한 집착, 금단 증상, 통제력 상실, 기분 변화" 등이 포함됩니다.