OpenAI CEO 샘 알트만은 이달 초 벤처 캐피털 회사 세쿼이아(Sequoia)가 주최한 AI 행사에서 ChatGPT의 미래에 대한 거대한 청사진을 제시했습니다.
한 참석자가 ChatGPT의 개인화 방안에 대해 질문하자, 알트만은 궁극적으로 이 모델이 개인의 전 생애 모든 것을 문서화하고 기억해내는 수준에 도달하기를 바란다고 답했습니다.
그가 말하는 이상적인 형태는 "개인의 전 생애를 투입할 수 있는, 트릴리언(trillion) 토큰 규모의 매우 작고 정교한 추론 모델"입니다.
그는 "이 모델은 사용자의 전체 맥락(context)을 걸쳐 추론할 수 있으며, 이를 효율적으로 수행할 수 있습니다. 사용자가 살아오면서 나눴던 모든 대화, 읽었던 모든 책, 주고받았던 모든 이메일, 접했던 모든 정보가 여기에 담겨 있으며, 여기에 다른 출처의 모든 데이터까지 연결됩니다. 그리고 사용자의 삶은 이 맥락에 끊임없이 추가(appending)될 뿐입니다"라고 설명했습니다.
이어 그는 "귀사 역시 모든 회사 데이터에 대해 똑같은 일을 할 수 있습니다"라고 덧붙였습니다.
알트만은 이것이 ChatGPT의 자연스러운 발전 경로라고 판단하는 데이터 기반의 근거를 가진 것으로 보입니다. 같은 자리에서, 젊은 세대가 ChatGPT를 활용하는 흥미로운 방식에 대해 질문을 받았을 때, 그는 "대학생들은 이를 운영 체제(operating system)처럼 사용한다"고 말했습니다. 이들은 파일을 업로드하고 데이터 출처를 연결한 후, 이 데이터에 대해 '복합적인 프롬프트(complex prompts)'를 실행하는 방식입니다.
게다가, 과거 대화 기록과 암기된 사실을 맥락으로 활용할 수 있는 ChatGPT의 기억(memory) 기능에 대해 그는 젊은이들 사이에서 "ChatGPT에게 물어보지 않고서는 실제 인생의 결정조차 내리기 어렵다"는 추세를 감지했다고 지적했습니다.
그는 "좀 더 단순하게 말하자면 이렇습니다. 나이 든 사람들은 ChatGPT를 구글 대체재로 이용합니다. 하지만 20~30대 사람들은 이를 일종의 라이프 어드바이저처럼 이용합니다"라고 설명했습니다.
ChatGPT가 만능에 가까운 AI 시스템으로 발전하는 것은 결코 큰 비약이 아닙니다. 현재 실리콘밸리가 구축하려는 에이전트(agents) 기술과 결합된다면, 이는 매우 흥미로운 미래상을 제시합니다.
AI가 자동으로 자동차 오일 교환 주기를 잡아주고 알려주는 상황을 상상해 보십시오. 시외 결혼식을 위해 필요한 이동 계획을 수립하고, 등록된 목록에서 선물을 주문하는 것을 상상해 보십시오. 혹은 수년간 읽어온 책 시리즈의 다음 권을 미리 주문하는 상황도 가능합니다.
하지만 우려되는 지점은 무엇일까요? 우리 삶의 모든 것을 아는 거대 기술을 가진 영리한 사기업을 과연 얼마나 신뢰할 수 있을까요? 이러한 기업들은 항상 윤리적인 방식으로만 행동하지는 않기 때문입니다.
"나쁜 기업이 되지 말라(don’t be evil)"는 모토로 시작했던 구글은 반경쟁적이고 독점적인 행위를 했다는 혐의로 미국에서 소송에 패소한 전례가 있습니다.
챗봇은 정치적 의도를 담아 응답하도록 훈련될 수 있습니다. 중국 봇들이 중국의 검열 규정을 준수한 사례가 보고되었을 뿐만 아니라, xAI의 챗봇 그록(Grok)은 사람들이 전혀 관련 없는 질문을 던졌을 때 남아프리카 공화국의 '백인 대학살(white genocide)'에 대해 임의로 언급하는 모습을 보이기도 했습니다. 많은 전문가들이 지적했듯이, 이러한 행동은 남아프리카 출신 설립자 일론 머스크의 지시에 따라 응답 엔진이 의도적으로 조작되었음을 암시합니다.
지난달에는 ChatGPT가 지나치게 순응적이라 오히려 아첨하는 수준에 이르렀습니다. 사용자들은 챗봇이 문제가 있거나 심지어 위험한 결정과 아이디어에 박수를 치는 스크린샷을 공유하기 시작했습니다. 알트만은 재빨리 해당 문제가 발생했던 수정(tweak)을 팀이 해결했다고 약속하며 대응했습니다.
가장 완벽하고 신뢰할 만한 모델들조차 때때로 그럴듯하게 지어내는(make stuff up) 실수를 저지르기도 합니다.
따라서 만능에 가까운 AI 비서가 우리의 삶을 눈에 띄게 편리하게 만들 수 있습니다. 그러나 거대 기술 기업들의 오랜 불안정한 행보가 고려될 때, 이 기술은 동시에 오용에 매우 취약한 상황이기도 합니다.