CraftGPT는 게임 속 레드스톤 블록 1020x260x1656을 사용하여 제작되었습니다.
개발자이자 마인크래프트를 애호하는 마인크래프터가 GitHub에 'CraftGPT'라는 프로젝트를 선보였습니다. 마인크래프트 레드스톤 공학의 놀라운 성과물로, 게임 내에서 1Hz CPU를 구축해 유명한 Sammyuri는 TinyChat 데이터셋으로 학습된 소형 언어 모델(Small Language Model, SLM)을 마인크래프트 내부 컴퓨터에서 작동시키도록 구현했습니다. CraftGPT 프로젝트는 게임 내 블록 1,020 x 260 x 1,656개(총 4억 3,900만 개)로 제작되었으며, 광고된 기능은 수행하지만, 주요 사용상의 단점은 '응답 생성이 몇 시간 동안 걸릴 수 있다'는 점입니다.
첨부된 영상은 CraftGPT를 작동시키기 위해 구축된 거대한 인게임 컴퓨터를 보여줍니다. Sammyuri에 따르면, 이 '플라이바이(fly-by)' 영상을 촬영하기 위해서는 게임의 Distant Horizons 모드를 활용해야 했습니다.
물론, 이처럼 인상적인 레드스톤 프로젝트임에도 불구하고 CraftGPT가 실제 PC에서 LLM을 구동하는 기존의 방식을 대체하기는 어렵습니다. Sammyuri는 사용자/테스터들에게 현실적인 기대치를 가져달라고 당부했습니다. 프로젝트 개발자는 "모델이 주제에서 벗어나거나, 문법적으로 오류가 있는 응답을 생성하거나, 단순히 엉뚱한 출력을 내보내는 경향이 매우 강하다"고 인정했습니다.
그렇다면 Sammyuri는 어떻게 레드스톤을 이용해 이 프로젝트를 구축했을까요? 레드스톤은 마인크래프트 환경 내에서 전자 부품 역할을 합니다. 영상에는 인게임 CraftGPT 장치가 부품별로 조립되는 과정이 담겨 있으며, 여기에는 토크나이저(tokenizers)와 행렬 곱셈기(matrix multipliers) 등이 포함됩니다. Sammyuri는 사용된 소형 언어 모델이 마인크래프트 내에서 커맨드 블록이나 데이터 팩(data packs)을 사용하지 않고 제작되었다고 설명했습니다. 또한 개발자는 "이 모델은 5,087,280개의 매개변수를 가지며, 기본 영어 대화가 담긴 TinyChat 데이터셋을 활용하여 파이썬(Python)으로 훈련되었습니다"라고 밝혔습니다.
AI 전문가들에게 흥미로울 만한 점은, 500만 개 매개변수를 가진 CraftGPT가 "임베딩 차원(embedding dimension) 240, 어휘 크기(vocabulary) 1920 토큰, 6개 레이어로 구성되어 있으며, 컨텍스트 창 크기는 64 토큰으로 (매우) 짧은 대화에는 충분하다"는 기술적 사양입니다. Sammyuri는 이와 더불어 "대부분의 가중치(weights)는 8비트로 양자화(quantized)되었으나, 임베딩 및 LayerNorm 가중치는 각각 18비트와 24비트로 저장됩니다"라고 덧붙였습니다.
속도의 문제
CraftGPT는 일상적으로 사용하는 챗봇 사이트나 애플리케이션의 경쟁 상대가 될 수는 없습니다. 이미 채팅 품질, 깊이, 정확도 측면에서 여러 제한점을 언급했습니다. 하지만 아마도 가장 큰 약점은 성능과 관련된 부분입니다.
마인크래프트 레드스톤으로 구축된 프로세서나 컴퓨터가 현대적인 경이로움일 수는 있지만, 실제 하드웨어와는 비교할 수 없습니다. 따라서 CraftGPT의 채팅 경험은 응답 시간으로 인해 심각하게 저하됩니다. Sammyuri에 따르면, 일반적으로 간단한 프롬프트에 답하는 데 약 2시간이 소요됩니다. 이는 심지어 MCHPRS(Minecraft High Performance Redstone Server)를 사용해 틱률(tick rate)을 약 40,000배로 높였다는 조건에서도 마찬가지입니다.
이전에 주목받았던 마인크래프트 레드스톤 업적으로는 독립적인 16비트 CPU나, DOOM(1993) 버전까지 마인크래프트에서 구동할 수 있었던 IRIS 컴퓨터가 있습니다.
[CTA 문구는 원문 그대로 유지합니다.]
최신 뉴스, 분석 및 리뷰를 받아보려면 구글 뉴스에서 Tom's Hardware를 팔로우하거나, 선호 출처로 추가하세요. 팔로우 버튼을 클릭하는 것을 잊지 마세요!