작년 xAI 출시 이후, 일론 머스크는 X를 그록(Grok) 모델의 AI 기능을 테스트하는 일종의 샌드박스로 활용해 왔습니다.
X는 기본적인 챗봇 기능 외에도, 이 모델을 활용하여 뉴스 기사나 주요 트렌드 이벤트를 요약하는 기능을 제공하고 있습니다. 최근에는 사용자 계정에 대한 몇 가지 AI 기반 문장을 제공하는 "More About This Account"라는 새로운 기능까지 출시했습니다. 겉보기에는 유용해 보이지만, 실제 결과는 기대에 미치지 못합니다.
유료 사용자는 웹에서 사용자 핸들(handle)이나 표시 이름(display name) 위에 마우스를 올리면 "More About This Account" 버튼을 볼 수 있으며, 이를 클릭하여 AI 기반 개요를 생성할 수 있습니다. 때때로 그록은 해당 계정에 대한 일반론적인 정보를 제공하지만, 때로는 완전히 잘못된 정보를 제공하기도 합니다.
예컨대, 필자가 동료인 Sean O’Kane과 Amanda Silberling에 대해 문의하자, 그록은 그들이 플랫폼에 게시하는 콘텐츠 유형에 대한 몇 가지 일반적인 문구만 제시했습니다.
[TechCrunch 스크린샷]
더욱 우려스러운 것은, Jagmeet Singh이라는 동료가 해당 주제에 대해 많은 게시물을 올린 기록이 없음에도 불구하고, 그록이 그를 캐나다 전문가로 묘사한 경우입니다.
[TechCrunch 스크린샷]
TechCrunch의 편집자 중 한 명인 Ram Iyer의 경우, 마치 브런치 계정인 것처럼 소개되었습니다.
[TechCrunch 스크린샷]
에듀테크 스타트업 Unacademy의 디자인 및 제품 담당 수석 부사장(SVP of design and product)에 대해 질문했을 때, 그록은 인도 크리켓 선수인 Hardik Pandya에 대한 정보를 제공했습니다.
[TechCrunch 스크린샷]
X 플랫폼 자체에서도 이용자들에게 그록이 잘못된 정보를 제공할 수 있다는 경고 문구를 띄우고 있습니다.
메시지에는 "Grok version 1.5는 초기 기능이므로 실수를 할 수 있습니다. 출력을 확인하십시오."라고 쓰여 있습니다.
심지어 그록이 정보를 잘못 전달하지 않더라도, 단순히 계정과 소개란을 직접 확인하는 것만으로는 알 수 없는 수준의 유용한 추가 정보는 제공하지 못합니다.
[TechCrunch 스크린샷]
그록이 X의 방대한 데이터에 접근할 수 있다는 점을 고려하면, 이 새로운 기능만으로 사용자들에 대해 더욱 정확하고 심층적인 정보를 제공했어야 합니다. 해당 기능은 전반적인 재고(rethink)가 필요해 보입니다.