FailproofAI/failproofai

项目概览

工具调用拦截已在全部十二个支持的 agent 框架上得到验证，且本地仪表盘无需账号、数据不离开本机，对需要在本地审计和管控 agent 行为的开发者具有直接参考价值。

项目类型

AI Agent · AI 工作流

应用场景

自动化执行

部署方式

查看项目说明

License

License 待确认

适合谁

• 需要观测 AI agent 运行并拦截危险工具调用的开发者。
• 希望在本机查看运行历史且数据不离开本机的用户。

核心能力

• 通过钩子接入支持的 agent 框架，捕获运行记录并在危险工具调用执行前拦截。
• 提供本地仪表盘，展示会话、模型调用、工具调用、钩子决策、被拦截的操作和策略提示。
• 扫描本地运行历史中的风险模式，并建议用于阻止这些风险的策略。
• 为不在支持框架中运行的 agent 提供追踪、会话和审计；执行拦截需要在 agent 运行时中自行添加钩子。

限制与风险

• 对支持框架之外的 agent，Python SDK 提供追踪、会话和审计，但执行拦截需要在 agent 自身运行时中添加钩子。
• 工具调用拦截在全部十二个框架上得到验证，回合结束门控在八个框架上得到验证。
• sanitize-* 策略族在工具返回后运行，因此是对工具输出中的密钥进行报告，而不是阻止其进入上下文。

如何开始

• 需要全局 npm 安装、配置、选择策略并启动 CLI 仪表盘：npm install -g failproofai、failproofai config、failproofai policies add FailproofAI/policies、failproofai。

核验依据

• GitHub 项目简介: Observability and enforcement for AI agent harnesses. Capture every run and runtime reliability with policy enforcement.
• README: Twelve harnesses in two classes — ten coding CLIs, and two chat and assistant gateways (Hermes, OpenClaw). One policy API and one session history across all of them. What a policy…
• Release: failproofai 1.0.9
• README: Every one of these gates the call *before* it runs, so they hold on all twelve harnesses.
• README: Run `failproofai` with no arguments and it serves a dashboard on `localhost:8020` reading the run history already on your machine — no account, no signup, nothing leaving the box.…

来源更新时间：2026-09-29T18:33:04Z

打开原始 GitHub 项目