AI를 사용하는 것보다 AI를 구현하는 것(실행하는 것)이 더 좋아요.
PewDiePie는 자체 호스팅 AI 모델을 위한 커스텀 웹 UI인 "ChatOS"를 구축했습니다. 이 UI는 2x RTX 4000 Ada 카드와 48GB VRAM을 탑재한 8x 모드 RTX 4090으로 구성된 맞춤형 PC에서 구동됩니다. PewDiePie는 이를 통해 Baidu와 OpenAI의 오픈 소스 모델을 구동하는 봇 '평의회(council)'를 만들었으며, 나아가 다음 달 출시할 자신만의 모델의 기반이 될 데이터 수집 시스템인 "The Swarm"을 구축했습니다.
과거 유튜브 게이밍 콘텐츠의 상징적 인물이었던 그는 부인 Marzia와 함께 일본에서 반(半) 은퇴 생활을 하고 있습니다. 콘텐츠 업로드 빈도는 줄고 내용 역시 과장된 리액션 채널 스타일의 영상에서 가족 브이로그 중심으로 바뀌었지만, 그에게 컴퓨팅에 대한 열정이 다시 피어난 것으로 보입니다. Felix는 이전부터 기술에 능통한 인물로 알려지지 않았으나, 최근 대변화를 겪고 있습니다. 일상생활에서의 '구글링' 줄이기, 첫 게이밍 PC 조립, 코딩 학습 등 그가 보이는 최신 움직임은 '탈중앙화'와 관련되어 있습니다. 즉, AI 모델을 직접 호스팅하고 궁극적으로 자체 모델을 개발하는 과정입니다.
그는 새로운 YouTube 영상에서 자신의 "미니 데이터 센터"가 의료 연구에 기여하는 방법을 설명했습니다. 자신이 보유한 10-GPU 시스템의 컴퓨팅 자원을 Folding@home에 기부하여 과학자들이 단백질 접힘 시뮬레이션을 수행할 수 있도록 지원하고, 다른 사람들이 자신의 컴퓨터로도 기여할 수 있는 팀까지 만들었습니다. 이 자체는 고귀한 목적이지만, PewDiePie는 미지의 영역으로 나아가고 싶었고, 대량의 GPU를 보유했을 때 할 수 있는 또 다른 명확한 활동, 즉 AI 구동에 도전했습니다.
Felix의 PC는 2x RTX 4000 Ada 카드와 48GB VRAM을 갖춘 8x 모드 RTX 4090으로 구성되어 있으며, 이를 통해 총 메모리 풀을 약 256GB까지 확장하여 오늘날 가장 큰 규모의 모델 중 다수를 구동할 수 있는 충분한 역량을 확보했습니다. 실제로 그는 Meta의 LLaMA 70B로 시작하여 OpenAI의 GPT-OSS-120B로 넘어가며 성능을 입증했습니다. 그는 이 과정에서 커스터마이징된 Chat 인터페이스를 사용했습니다.
그는 이 과정에서 모델이 실제 대화 흐름을 학습할 수 있도록 하는 시스템을 구축하는 데 집중했습니다.
이후 그는 RAG(검색 증강 생성) 방식을 활용하여 외부 문서를 참고하고 대화의 품질을 높이는 방향으로 나아갔습니다.
그는 채팅창 인터페이스를 이용해 모델에게 특정 문서를 제공하고, 이 문서를 참조하도록 강제하는 과정을 통해 대화의 정확도를 높이는 것을 보여주었습니다.
이러한 과정을 통해 모델이 마치 참고 자료를 읽고 답변하는 것처럼 보이게 만들었으며, 이는 모델이 지식 기반에서 답변을 찾고 근거를 제시하게 하는 방식이었습니다.
그의 시스템은 모델이 단순히 추론하는 것을 넘어, 특정 문서를 참조하여 구체적인 근거와 함께 답변을 생성할 수 있도록 개선되었습니다.
이후 그는 이 시스템을 더 정교하게 만들기 위해, AI가 생성한 응답을 사용자에게 보여주기 전에 먼저 사용자 동의를 얻는 인터페이스를 추가했습니다. 이는 모델의 답변이 사용자에게 적절한지 판단할 기회를 주는 안전 장치였습니다.
최종적으로 그는 이러한 모든 구성 요소를 결합하여, 사용자가 원하는 정보에 대해 가장 신뢰할 수 있는 근거와 함께 답변을 얻을 수 있는 완성도 높은 시스템을 구축했습니다.
(이후 내용은 원문 자료가 없어 생략합니다.)