需要在少量数据(约 1000 个样本)且不使用 Chain-of-Thought 的条件下训练推理模型的 AI 工程师和研究人员。
核心能力
循环架构包含高层规划模块与底层计算模块,用于单次推理。
可训练大师级 Sudoku AI,用于求解高难度谜题。
使用精确准确率和指定的 ARC 评估脚本对已训练模型进行评估。
提供 ARC-AGI-2、Sudoku 和 Maze 的已训练 checkpoint。
限制与风险
训练后期过拟合可能在训练和 Q-learning 过程中引发数值不稳定。
小样本学习存在约 ±2 分的准确率波动。
如何开始
安装难度较高:需手动安装指定 CUDA 版本(CUDA 12.6)和对应的 PyTorch 构建,手动安装 FlashAttention,完整规模实验需要 8 GPU 硬件环境;成功路径为安装 CUDA 12.6 → 安装支持 CUDA 12.6 的 PyTorch → 安装 FlashAttention → 安装 requirements.txt → 构建 Sudoku 数据集 → 启动训练。
核验依据
README: Inspired by the hierarchical and multi-timescale processing in the human brain, we propose the Hierarchical Reasoning Model (HRM), a novel recurrent architecture that attains sign…
README: Current large language models (LLMs) primarily employ Chain-of-Thought (CoT) techniques, which suffer from brittle task decomposition, extensive data requirements, and high latenc…
README: Ensure PyTorch and CUDA are installed. The repo needs CUDA extensions to be built.
README: Then install FlashAttention. For Hopper GPUs, install FlashAttention 3