在 MC 里跑语言模型。
1 / 2
该地图在没有任何命令方块、没有任何数据包,完全依靠原版红石逻辑电路的情况下,在游戏内实现了一个真正可以对话的迷你语言模型。
模型本体是怎么训练的
CraftGPT 的“大脑”并不是在游戏里训练出来的——那在红石里根本做不到。作者先在 Python 里用 TinyChat 数据集训练了一个小型 Transformer 模型,参数量为 5,087,280 个,嵌入维度 240,词表 1920 个 token,共 6 层,上下文窗口只有 64 个 token。这个模型本身非常小,小到只够应付非常简短的日常对话。
权重是怎么烧录进游戏的
训练完成后,作者把模型的权重做了量化处理:大部分权重压缩到 8-bit,Embedding 层保留 18-bit 精度,LayerNorm 层用 24-bit 精度。然后他把这些量化后的权重拆分成几百个文件,每个文件对应地图里一个独立的 ROM 分区。这些 ROM 由海量的红石火把、中继器和比较器组成,相当于把神经网络的每一层、每一个参数都“刻”进了游戏世界的地基里。
红石电路如何实现推理
CraftGPT 的内部结构是一整套完整的推理流水线:有 Tokenizer 负责把输入文字转成 token ID,有矩阵乘法器负责计算权重与输入的乘积,有 Attention 模块负责处理上下文关系,还有 LayerNorm、ReLU 激活函数、以及最终的输出层。这些模块全部由红石逻辑门搭建,信号在电路里逐级传递,每走一步都对应模型里的一次数学运算。由于红石信号传播本身有延迟,整个推理过程极其缓慢,但它确实在“算”。
地图的物理规模
整个建筑占地 1020 × 260 × 1656 格,总方块量接近 4.4 亿个。这个体量已经远超普通玩家的视野范围,作者只能用 Distant Horizons 模组从远处拍摄全景,而这也导致远处的红石组件在低细节渲染下看起来有些畸变。如果你想亲自进入这个世界,官方建议至少准备 32GB 内存,最好 64GB,否则加载地图时很容易卡死。
运行速度与体验
在原版 tick 速度下,CraftGPT 生成一句话可能需要将近十年。作者用
MCHPR 把 tick 率提升到约 40,000 倍之后,生成一个回复仍然需要大约 2 小时。输出质量也不尽如人意——它经常跑题、语法崩坏、偶尔还会输出乱码。换句话说,它既不够快,也不够聪明,但它确确实实是在《我的世界》的红石电路里完成了一次完整的神经网络前向推理。
请说明举报理由,我们将尽快审核。