pathwaycom/llm-app

项目概览

该模板宣称无需外部向量数据库即可完成向量检索、全文检索与混合检索，并持续同步 Sharepoint、Google Drive、S3 等数据源中的新增、删除与更新操作。

项目类型

RAG 与知识库 · AI 工作流 · 向量数据库

应用场景

知识问答 · 数据分析

部署方式

查看项目说明

License

MIT

适合谁

• 希望使用预先构建的模板快速部署 RAG 应用，且不愿意自行集成并维护独立向量数据库等基础设施的开发者。
• 其底层数据源频繁变动，且需要 RAG 应用持续同步更新和删除操作的团队。

核心能力

• 模板会自动同步来自 Sharepoint、Google Drive、S3 和 Kafka 等连接数据源的所有新增数据、删除和更新操作。
• 提供内存级内置数据索引功能，支持向量搜索、混合搜索以及带有缓存的全文本搜索，从而无需依赖外部向量数据库。
• 在解析阶段使用 GPT-4o 索引 PDF 和其他文档，适用于从非结构化文件中提取包含图表和表格的信息。
• 提供一条使用 Mistral 和 Ollama 的完全私有、本地化 RAG 流水线，不依赖外部 API。

限制与风险

• 使用依赖 OpenAI GPT 模型的模板会产生 API 费用，并且需要访问外部网络。

如何开始

• 选择一个模板，通过 Docker 容器或 Python 脚本运行，随后通过 HTTP API 或 Streamlit Web 界面连接并与之交互。

核验依据

• GitHub 项目简介: Ready-to-run cloud templates for RAG, AI pipelines, and enterprise search with live data. 🐳Docker-friendly.⚡Always in sync with Sharepoint, Google Drive, S3, Kafka, PostgreSQL, re…
• README: The Pathway Live Data Framework's **AI Pipelines** allow you to quickly put in production AI applications that offer **high-accuracy RAG and AI enterprise search at scale** using…
• README: The apps can be run as **Docker containers**, and expose an **HTTP API** to connect the frontend. To allow quick testing and demos, some app templates also include an optional Str…
• README: Basic end-to-end RAG app. A question-answering pipeline that uses the GPT model of choice to provide answers to queries to your documents (PDF, DOCX,...) on a live connected data…
• README: [`Multimodal RAG pipeline with GPT4o`](templates/multimodal_rag/) | Multimodal RAG using GPT-4o in the parsing stage to index PDFs and other documents from a connected data source…

内容核验时间：