chatchat-space/Langchain-Chatchat

项目概览

专为中文场景优化且支持纯离线私有化部署，适合有数据本地化要求的团队评估。

项目类型

AI Agent · RAG 与知识库

应用场景

聊天助手 · 知识问答

部署方式

查看项目说明

License

Apache-2.0

适合谁

• 需要构建支持中文、可离线私有部署的 RAG 和 Agent 应用的开发者和 AI 工程师。

核心能力

• 通过文件加载、文本分割、向量嵌入和相似度匹配，对本地知识库进行检索增强生成。
• 支持基于大语言模型的自动工具选择与参数解析，该能力针对 ChatGLM3 和 Qwen 进行了优化。
• 提供统一的文件对话能力，支持 BM25+KNN 等检索方式。
• 提供对话式接口，允许用户使用自然语言查询数据库。
• 提供集成了搜索引擎的对话式接口。
• 提供基于 Streamlit 的 Web 界面，支持多会话及自定义系统提示词。
• 提供 API 服务，支持通过编程方式访问应用程序的各项功能。
• 提供用于初始化和管理本地 FAISS 知识库的工具和命令。

限制与风险

• 当前版本不再直接加载本地模型路径，必须依赖并配置外部模型推理框架。
• 默认配置绑定至 127.0.0.1，若不修改设置，无法从其他 IP 直接访问。
• Agent 的工具调用等能力取决于所选用的大语言模型自身的固有能力。
• 若未进行环境隔离，本项目与所接入的模型推理框架之间存在较高的依赖冲突风险。

如何开始

• 整体配置难度中等，需要单独准备并启动模型推理框架，修改 YAML 配置文件。基础成功路径为：通过 pip 安装，启动推理框架，依次执行 chatchat init、chatchat kb -r 以及 chatchat start -a。

替代方案与同类比较

• 提供可视化工作流构建器，集成了 RAG 管道、Agent 功能和模型管理。同样支持自托管和本地运行，且提供托管服务选项。
• 专注于基于深度文档理解的高保真 RAG 工作流，支持复杂格式非结构化数据的异构数据源兼容，减少幻觉问题。

同类比较

• chatchat-space/Langchain-Chatchat vs Dify
• chatchat-space/Langchain-Chatchat vs RAGFlow

核验依据

• GitHub 项目简介: local knowledge based LLM (like ChatGLM, Qwen and Llama) RAG and Agent app with langchain
• README: 目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。
• README: 本项目支持市面上主流的开源 LLM、 Embedding 模型与向量数据库，可实现全部使用**开源**模型**离线私有部署**。与此同时，本项目也支持 OpenAI GPT API 的调用，并将在后续持续扩充对各类模型及模型 API 的接入。
• README: 过程包括加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的 `top k`个 -> 匹配出的文本作为上下文和问题一起添加到 `prompt`中 -> 提交给 `LLM`生成回答。
• README: 除上述本地模型加载框架外，项目中也为可接入在线 API 的 [One API](https://github.com/songquanpeng/one-api) 框架接入提供了支持，支持包括 [OpenAI ChatGPT](https://platform.openai.com/docs/guides/gpt/chat-completions-api)、…

来源更新时间：2026-07-16T18:02:58Z

打开原始 GitHub 项目