langfuse/langfuse

项目概览

项目提供 SDK 与 API 对 LLM 调用进行埋点追踪，并支持 LLM-as-a-judge 及多种集成，适合需要自托管 LLM 监控与评估闭环的团队。

项目类型

评测观测 · 基础设施

部署方式

Docker / Docker Compose

License

License 待确认

适合谁

• 需要自托管且具备通过 Docker Compose 本地部署能力的 AI 工程师与开发团队。

核心能力

• 通过在应用程序中埋点，向 langfuse 导入追踪数据，以记录 LLM 调用以及检索、嵌入或代理操作等相关逻辑。
• 支持 LLM-as-a-judge、代码评估器、用户反馈收集、人工标注以及通过 API/SDK 构建的自定义评估流水线。
• 提供建立测试集和基准测试的能力，用于评估 LLM 应用，支持部署前测试和结构化实验。
• 提供用于测试和迭代提示词及模型配置的工具，以缩短反馈循环。
• 提供公开 API 来支持定制的 LLMOps 工作流，附带 OpenAPI 规范、Postman 集合和带有类型的 SDK。

限制与风险

• langfuse 的运行依赖于开源数据库 ClickHouse。
• 自托管实例默认会向中心化服务器自动发送基本的使用统计数据。
• 项目部分包含企业版功能的文件夹代码不受 MIT 许可证约束。

如何开始

• 通过克隆仓库并运行 docker compose up 命令，可在数分钟内启动本地实例，随后通过浏览器访问 Web GUI 创建新项目并获取 API 凭证即可完成初始配置。

核验依据

• README: Langfuse is an **open source LLM engineering** platform. It helps teams collaboratively **develop, monitor, evaluate,** and **debug** AI applications. Langfuse can be **self-hoste…
• README: - [LLM Application Observability](https://langfuse.com/docs/tracing): Instrument your app and start ingesting traces to Langfuse, thereby tracking LLM calls and other relevant log…
• README: - [Prompt Management](https://langfuse.com/docs/prompt-management/get-started) helps you centrally manage, version control, and collaboratively iterate on your prompts. Thanks to…
• README: Managed deployment by the Langfuse team, generous free-tier, no credit card required.
• README: - [Local (docker compose)](https://langfuse.com/self-hosting/local): Run Langfuse on your own machine in 5 minutes using Docker Compose.

内容核验时间：