zylon-ai/private-gpt

项目概览

该项目采用 API 优先架构，将自身定位为产品底层的本地后端而非最终交互应用，并以 Claude API 为参考标准设计现代 AI 应用 API。

项目类型

MCP · AI Agent · RAG 与知识库

应用场景

知识问答

部署方式

查看项目说明

License

Apache-2.0

适合谁

• 希望通过本地模型构建生产级 AI 应用且不愿重复建设底层后端的开发者或 AI 工程师。

核心能力

• 支持文件和工件的摄取，并提供包含引用的检索增强生成功能。
• 在 API 中提供对模型上下文协议（MCP）以及远程 MCP 服务器的支持。
• 提供内置的结构化查询功能，支持对数据库和 CSV 文件进行查询，而无需仅仅依赖工具或代码。
• 提供配置和使用自定义工具的能力。

限制与风险

• 项目本身并不负责运行模型，而是需要连接到 OpenAI 兼容的推理服务器进行运作。
• 项目提供的 UI 界面是用于演示的，并非其核心产品。
• 该系统在运作时存在依赖性风险，需要额外运行一个 LLM 服务器才能正常工作。

如何开始

• 安装过程要求同时部署 private-gpt 和一个独立的 OpenAI 兼容 LLM 服务器（如 Ollama），并支持通过 Docker 进行安装。成功的首要验证路径是运行 private-gpt serve，随后访问 http://localhost:8080/ui。

核验依据

• README: PrivateGPT is the open-source API layer that turns local models into production AI applications.
• README: PrivateGPT ships a built-in workbench UI for testing and demos, available at `/ui`. The API is the actual product.
• README: Production-tested: [PrivateGPT powers Zylon](#privategpt-vs-zylon), the on-premise AI platform providing Private AI to enterprises across the globe.
• README: - Standard messages API (streaming, async, token counting) - File and artifact ingestion - Retrieval with citations and agentic RAG - Built-in tools mirroring the Claude API (web…
• README: PrivateGPT follows the Claude API as the reference for modern AI application APIs.

内容核验时间：