ggml-org/llama.cpp vs sgl-project/sglang

基于当前公开核验快照比较 ggml-org/llama.cpp 与 sgl-project/sglang 的定位、License、部署方式、适用场景、限制和原始来源。

ggml-org/llama.cpp

llama.cpp 是一个纯 C/C++ 实现的 LLM 推理引擎，无任何外部依赖，支持通过整数（1.5-8-bit）量化在本地或云端硬件上运行模型推理。它提供了覆盖 CLI 交互、文本生成、模型量化与多模态处理的核心工具链。

sglang 是一个面向大语言模型和多模态模型的服务框架，通过 RadixAttention、零开销调度器和连续批处理等运行时特性，提供低延迟、高吞吐的推理能力，并具备多硬件平台兼容性。

先按必须满足的部署、License 和使用场景排除不合适选项，再打开各自详情核对限制与直接证据。