Andyyyy64/whichllm

项目概览

其模型排序明确合并真实基准与新近程度，并同时评估显存适配和速度，适合验证推荐结果是否比单看参数量更有决策价值。

项目类型

模型运行 · 评测观测

应用场景

聊天助手

部署方式

查看项目说明

License

MIT

适合谁

• 需要依据具体硬件条件筛选和排序本地大模型的开发者、人工智能工程师及一般用户。
• 正在比较显卡升级方案，或希望在购买显卡前验证模型适配范围的用户。
• 已经确定目标模型，希望反向确定显卡需求的用户。

核心能力

• 自动识别英伟达、超威、英特尔、苹果芯片以及仅使用中央处理器的硬件环境，为后续模型适配判断提供系统条件；该能力已可用。
• 根据显存适配、速度和真实基准质量对模型评分并排序，帮助用户从可运行候选中优先选择更合适的模型；该能力已可用。
• 允许用户在购买前模拟目标显卡，并检查该硬件能够运行哪些模型，用于提前验证采购方案；该能力已可用。
• 下载推荐模型并立即启动隔离的交互式聊天会话，让用户可以直接验证模型的实际使用效果；该能力已可用。
• 通过命令行输出用于运行模型的可执行 Python 代码，方便开发者把选型结果转入代码验证；该能力已可用。
• 将当前机器硬件与候选显卡进行比较，帮助用户判断升级后可获得的模型运行能力变化；该能力已可用。
• 从指定模型反向查询所需显卡，使硬件规划可以从明确的模型目标出发；该能力已可用。

限制与风险

• Python 路径要求 Python 3.11 或更高版本，旧版 Python 环境需要先升级或改用其他已提供的发行方式。
• 获取实时模型数据会使用 Hugging Face 接口；受限网络或严格数据边界环境应先确认是否允许该外部依赖。
• 已确认的交互模式是命令行，因此偏好完整图形化选型流程的用户需要评估操作习惯是否匹配。
• 项目定位为本地运行和自托管工具，没有可直接使用的托管服务，运行环境需要由用户自行准备。

如何开始

• 最短成功路径是执行 `uvx whichllm@latest`，无需先安装项目；也可通过 pip 或 Homebrew 获取。
• 如果选择 Python 相关安装与运行路径，应先确认环境为 Python 3.11 或更高版本。

核验依据

• README: Find the best local LLM that actually runs on your hardware. Auto-detects your GPU/CPU/RAM and ranks the top models from HuggingFace that fit your system.
• README: Run the recommendation command once, with no project setup. ```bash uvx whichllm@latest ```
• README: Evidence-based ranking, not a size heuristic — The top pick is chosen from merged real benchmarks (LiveBench, Artificial Analysis, Aider, multimodal/vision, Chatbot Arena ELO, Ope…
• README: - **Auto-detect hardware** — NVIDIA, AMD, Intel, Apple Silicon, CPU-only - **Smart ranking** — Scores models by VRAM fit, speed, and benchmark quality - **One-command chat** — `wh…
• README: brew install andyyyy64/whichllm/whichllm pip install whichllm

来源更新时间：2026-07-15T18:07:58Z

打开原始 GitHub 项目