mozilla-ai/llamafile

项目概览

该工具将模型推理和语音转文本能力整合进无需安装的单一可执行文件中，适配多种操作系统和 CPU 架构。

项目类型

模型运行

应用场景

聊天助手 · 会议记录 · 语音音频

部署方式

查看项目说明

License

License 待确认

适合谁

• 希望在没有复杂安装流程的前提下，在多种本地操作系统和 CPU 架构上直接运行大语言模型或处理音频转录任务的用户。

核心能力

• 将大语言模型的各项复杂度集中缩减至一个名为 llamafile 的单一可执行文件中，该文件可在多数操作系统和 CPU 架构上本地运行且无需安装。
• 基于 whisper.cpp 构建的单文件语音转文本工具，支持在相同的所有平台上对音频文件进行转录和翻译，且无需安装任何额外运行环境。

限制与风险

• 在 Windows 操作系统上，仅能直接运行体积小于 4GB 的可执行文件。
• v0.10.* 版本采用了新的构建系统，该版本可能缺失以往旧版本中包含的某些功能特性。

如何开始

• 上手难度较低，仅需下载示例模型的 llamafile 文件，为其添加可执行权限（如执行 chmod +x），随后直接运行该二进制文件即可开始使用。

核验依据

• GitHub 项目简介: Distribute and run LLMs with a single file.
• README: combining [llama.cpp](https://github.com/ggerganov/llama.cpp) with [Cosmopolitan Libc](https://github.com/jart/cosmopolitan) into one framework that collapses all the complexity o…
• README: llamafile lets you distribute and run LLMs with a single file.
• README: llamafile also includes **[whisperfile](https://docs.mozilla.ai/llamafile/whisperfile)**, a single-file speech-to-text tool built on [whisper.cpp](https://github.com/ggerganog/whi…
• README: Download and run your first llamafile in minutes:

内容核验时间：