我们的 AI 安全计划

非凡智能。
非凡控制。

Wiwo 制定了一项计划,让超级智能更加安全。五项措施,确保人始终掌握控制权。

探索这项计划
关于安全的五个理念

以人为本。
始终由人掌控。

了解每项措施的保护目标,并通过示例体验它应如何响应。

先在隔离环境中测试。

在接入实际业务前,让智能体接受误导性指令、冲突命令和极端场景的测试。

交互示例示例数据

一条指令试图让智能体偏离任务。

连接等待中

此为演示模拟,不会连接智能体或执行实际操作。

我们必须能够验证什么

记录测试过程、发现的故障,以及允许接入的标准。

年轻专业人士在创意工作室共同审阅项目
从计划到每个项目

控制机制也需要
精心设计。

在实施这些措施时,我们会明确责任人、测试方式、权限和验证证据。人工审核始终是工作的一部分。

了解 Thinking Orb