TabbyML/tabby

项目概览

tabbyml/tabby 可在不要求数据库管理系统或云服务的条件下自托管运行，并声明支持消费级 GPU。

项目类型

AI 编程

应用场景

知识问答 · 编程开发

部署方式

Docker / Docker Compose

License

License 待确认

适合谁

• 希望以自托管方式运行编码助手，并评估使用消费级 GPU 的开发者或团队。

核心能力

• 暴露 OpenAPI 接口，以便与现有的基础设施（如 Cloud IDE）集成。
• 利用代码库级上下文，为代码建议提供相关信息。

限制与风险

• 运行时需要加载和配置特定 LLM，例如 StarCoder。
• 如使用 GPU 加速，需要具备相应硬件；资料以支持 CUDA 的消费级 GPU 为例。硬件不足时，可能不适合本地推理。

如何开始

• 项目提供 Docker 快速启动路径，资料标注该路径可在约 1 分钟内完成启动。

核验依据

• README: Tabby is a self-hosted AI coding assistant, offering an open-source and on-premises alternative to GitHub Copilot. It boasts several key features: * Self-contained, with no need f…
• README: * **08/31/2023** Tabby's first stable release [v0.0.1](https://github.com/TabbyML/tabby/releases/tag/v0.0.1) 🥳.
• README: * **07/05/2024** Tabby [v0.13.0](https://github.com/TabbyML/tabby/releases/tag/v0.13.0) introduces ***Answer Engine***, a central knowledge engine for internal engineering teams.…
• README: * **10/15/2023** RAG-based code completion is enabled by detail in [v0.3.0](https://github.com/TabbyML/tabby/releases/tag/v0.3.0)🎉! Check out the [blogpost](https://tabby.tabbyml.…
• README: * **03/20/2024** [v0.9](https://github.com/TabbyML/tabby/releases/tag/v0.9.1) released, highlighting a full feature admin UI.

内容核验时间：