返回雷达English

alibaba/MNN vs lyogavin/airllm

基于当前公开核验快照比较 alibaba/MNN 与 lyogavin/airllm 的定位、License、部署方式、适用场景、限制和原始来源。

alibaba/MNN

MNN 是一个轻量级深度学习推理与训练框架,用于在资源受限的移动和嵌入式设备上运行和训练模型。

License
Apache-2.0
部署
查看项目说明
适用场景
聊天助手 · 编程开发
更新时间
2026-07-23T18:05:34Z

原始项目链接

lyogavin/airllm

airllm 是一个通过逐层加载策略降低大语言模型推理显存占用的 Python 库,使 70B 级别模型在单张约 4GB 显存的 GPU 上无需量化即可运行。其核心机制是以磁盘加载换取显存节省,因此主要适用于对吞吐量要求不高的本地环境。

License
Apache-2.0
部署
查看项目说明
适用场景
聊天助手
更新时间
2026-07-16T18:17:49Z

原始项目链接

如何选择

先按必须满足的部署、License 和使用场景排除不合适选项,再打开各自详情核对限制与直接证据。