princeton-nlp/tree-of-thought-llm

项目概览

tree-of-thought-llm 是一个 Python 框架，让大语言模型通过树搜索算法探索多条推理路径并评估中间状态，以解决需要多步推理的复杂问题。与标准的单次输入输出提示不同，该框架将问题求解建模为对推理树的搜索过程。

项目类型

AI Agent

应用场景

搜索调研

部署方式

查看项目说明

License

MIT

适合谁

• 需要进行复杂、多步推理任务的研究人员
• 希望扩展大语言模型推理能力的开发者

核心能力

• 使用广度优先搜索实现 ToT 搜索，对推理步骤进行探索。
• 使用深度优先搜索实现 ToT 搜索，用于填字游戏实验。
• 运行标准的思维链或输入输出采样，用于基线对比。
• 允许用户通过创建任务类、数据文件和提示，轻松添加新任务。

限制与风险

• 由于大语言模型解码过程中的随机性，输出结果不具有确定性，可能会影响成功率。
• 依赖外部大语言模型 API（如 GPT-4），可能会产生付费服务成本和网络延迟。

如何开始

• 安装难度低。通过 PyPI 安装：pip install tree-of-thoughts-llm；设置 OPENAI_API_KEY 环境变量；使用 Python 脚本调用 solve 函数即可运行。

核验依据

• GitHub 项目简介: [NeurIPS 2023] Tree of Thoughts: Deliberate Problem Solving with Large Language Models
• README: Install from PyPI
• README: Official implementation for paper Tree of Thoughts: Deliberate Problem Solving with Large Language Models
• README: The very simple ``run.py`` implements the ToT + BFS algorithm, as well as the naive IO/CoT sampling.
• README: The following minimal script will attempt to solve the game of 24 with 4 5 6 10 (might be a bit slow as it's using GPT-4):

内容核验时间：