AI代理错误交易1.2M美元,Runplane发布
原文:We built this after an AI agent misread a risk signal and moved $1.2M in trades
AI 代理的执行控制层:Runplane 是什么?Runplane 是 AI 代理的执行控制层。它位于您的代理和现实世界之间。当代理尝试执行某个工具时,SDK 会使用 guard() 包装执行过程,根据您的策略评估该操作,并强制执行决策:允许、阻止或需要批准。集成是以 SDK 为先的。您可以从任何框架引入现有的代理工具。Runplane 会自动将这些工具映射到规范化的动作类型,并应用基线策略。您仍然拥有完全控制权——可以为任何动作类型定制策略。所有工具执行都通过 runplane.guard() 包装,决策在运行时强制执行。
工作原理:从工具到动作再到策略 Runplane 模型遵循一个清晰的流程:引入您的工具,动作自动映射,应用基线策略,用 guard() 包装。首先,您连接来自您使用的任何框架的工具——LangChain、Vercel AI SDK、CrewAI 或自定义实现。这些工具是输入层。Runplane 会自动将您的工具映射到规范化的动作类型。例如,delete_user 工具变为“delete_record”动作,send_email 工具变为“send_email”动作。这种标准化允许策略一次性编写,并在不同的工具实现中一致应用。基线策略自动应用,提供开箱即用的治理。您仍然拥有完全控制权——可以定制任何策略以满足您的特定需求。策略指定某个动作是否应该被允许、阻止或需要人工批准。最后,所有工具执行都通过 runplane.guard() 包装。guard 函数将动作类型和上下文发送到 Runplane,接收决策,并执行回调、阻止它或等待人工批准。
SDK 优先的集成 Runplane 是 SDK 优先的,而不是 API 优先。主要集成是通过 SDK 的 guard() 方法,它包装您的工具执行回调。这种设计确保了...