Cheqpoint

大多数AI安全工具检查AI代理说的话。Cheqpoint检查它做的事情：它暂停有风险的操作（退款、删除、部署），并在运行前将其路由到合适的审查员。它只需要一行代码，可与任何代理框架配合使用，并通知审查员，他们可以从平台或Slack中批准，并附带完整上下文：风险、代理的推理和确切请求。规则自动批准安全操作；人类处理其余部分。