以人为本。
始终由人掌控。
了解每项措施的保护目标,并通过示例体验它应如何响应。
先在隔离环境中测试。
在接入实际业务前,让智能体接受误导性指令、冲突命令和极端场景的测试。
交互示例示例数据
一条指令试图让智能体偏离任务。
连接等待中
此为演示模拟,不会连接智能体或执行实际操作。
我们必须能够验证什么
记录测试过程、发现的故障,以及允许接入的标准。
明确身份,限定范围。
明确智能体的身份,以及每项任务可使用的工具和可访问的数据。由你决定它的权限边界。
交互示例示例数据
智能体请求使用任务范围之外的工具。
访问请求
此为演示模拟,不会连接智能体或执行实际操作。
我们必须能够验证什么
智能体的身份、当前权限,以及与任务关联的访问边界。
AI 准备,由人授权。
涉及资金支出、内容发布或对他人产生影响的操作,必须获得可识别的批准。即使方案已准备就绪,也应等待人的决定。
交互示例示例数据
活动方案已准备好,等待审核。
发布等待批准
此为演示模拟,不会连接智能体或执行实际操作。
我们必须能够验证什么
记录拟执行的操作、授权人,以及批准的确切范围。
让每一步操作都可重现。
记录提出了什么、谁批准了,以及发生了什么。保留清晰可读的操作序列,用于审查决策和接受外部评估。
交互示例示例数据
一项操作需要审查。
记录可用
此为演示模拟,不会连接智能体或执行实际操作。
我们必须能够验证什么
在同一记录中关联提案、许可、执行过程和结果。
停止,也是一种能力。
验证能否撤销访问权限、隔离智能体并阻止新操作。停止能力必须在真正需要之前就经过测试。
交互示例示例数据
一个智能体有待执行的操作。
授权有效
此为演示模拟,不会连接智能体或执行实际操作。
我们必须能够验证什么
测试权限撤销、智能体隔离,以及停止待执行操作。

