返回雷达English

GeeeekExplorer/nano-vllm vs ollama/ollama

基于当前公开核验快照比较 GeeeekExplorer/nano-vllm 与 ollama/ollama 的定位、License、部署方式、适用场景、限制和原始来源。

GeeeekExplorer/nano-vllm

nano-vllm 是一个用约 1200 行 Python 代码从零构建的轻量级推理引擎,在保持代码可读性的同时实现了与原版 vLLM 可比的推理速度。它集成了前缀缓存、张量并行和 CUDA 图等优化技术,适合理解大模型推理机制和进行离线推理。

License
MIT
部署
查看项目说明
适用场景
聊天助手
更新时间
2026-07-15T18:11:35Z

原始项目链接

ollama/ollama

ollama/ollama 提供了一种在本地运行开源大语言模型的简便方式,支持通过 CLI、REST API 和编程语言库进行交互。

License
MIT
部署
可执行文件 / CLI
适用场景
聊天助手 · 编程开发
更新时间
2026-07-14T18:05:40Z

原始项目链接

如何选择

先按必须满足的部署、License 和使用场景排除不合适选项,再打开各自详情核对限制与直接证据。