← Browser AI From First Principles

把人放在权威性边界上

围绕具体效应设计批准,把 grant 绑定到被校验的效应,并保存有后果的浏览器智能体动作的完整记录。

「做任何危险之事之前先问用户」听起来像个安全设计。

在我们定义用户看到什么、批准何时发生、以及批准确切授权了什么之前,它只是一句口号。

一条有用的权威性边界把模型的提议变成一个具体的、被校验的效应。用户批准的是那个效应——不是一个含糊的意图,也不是笼统的模型。


1. 请求权限之前先对效应分类

不是每次工具调用都值得同样一次打断。从效应类别开始:

类别 例子 默认处理
Read 搜索当前这本书 在声明的作用域内允许并记录
Prepare 起草一封邮件但不发送 允许,展示该制品
Reversible change 应用一个本地标签 允许,或按用户政策确认
External or irreversible 发送、发布、购买或删除 要求针对该效应的批准

这些是默认值,不是普适真理。读取一个私密邮箱可能比更换本地主题值得更多保护。正确的类别取决于数据敏感度、目的地、可逆性与用户政策。

重要的一步是在模型之外对该效应分类。模型可以提议一个动作,但确定性的应用代码赋予所需的权威性。


2. 批准归一化后的效应

用户可能被称为授权的有四件不同的事,而且它们不可互换:

目标批准              — "帮我回复编辑"
提议批准              — "好的,发一封邮件"(仍抽象)
归一化效应批准        — "把这段文字、发给这个地址、现在"
执行                  — 受限执行器精确地运行那一个

第 20 章之所以能扣留有后果的工具,是因为它没有办法到达第三行。一次有用的批准绑定到归一化后的效应,而不是用户更早陈述的目标,也不是模型指名的工具类别。

假设一个智能体提议:

{
  "tool": "send_email",
  "arguments": {
    "to": "editor@example.com",
    "subject": "Chapter review",
    "body": "Here is the draft..."
  }
}

在批准之前,应用应当:

  1. 对照工具 schema 校验参数;
  2. 解析别名与默认值;
  3. 算出实际的目的地与离开浏览器的数据;
  4. 拒绝政策之外的值;
  5. 渲染最终效应供检视。

批准界面可能这样说:

发送一封邮件
收件人: editor@example.com
主题: Chapter review
包含: 1,842 字符,无附件
效应: 数据离开此浏览器

「允许这个智能体吗?」不够。它藏起了用户被要求做出的那个决策。


3. 把批准绑定到参数

一次批准绝不能变成一张可重复使用的空白支票。

一个简单设计从被校验的提议产出一份 grant 记录:

{
  "toolId": "mail.send/v1",
  "effectDigest": "sha256:…",
  "origin": "https://example.test",
  "approvedAt": "2026-09-02T17:04:10Z",
  "expiresAt": "2026-09-02T17:05:10Z",
  "singleUse": true
}

执行时重新计算该摘要。如果收件人、正文、工具版本或 origin 发生了变化,批准就不再匹配。

这防止两种常见失败:

  • 用户评审动作之后到使用之时发生的篡改(time-of-check/time-of-use);
  • 用一次旧批准重放一次新调用。

grant 记录应当快速过期,并在效应开始时被原子地消费。


4. 分开提议、权威性与执行

这些阶段应当在架构中可见:

    flowchart TD
    P[模型提议] --> V[Schema 与政策校验]
    V --> A[用户批准]
    A --> E[受限执行器]
    E --> R[结果与审计记录]
  

模型不直接调用一个特权实现。它产出一个提议。政策层决定该提议是否可准入。需要时,人类授权归一化后的效应。受限执行器只执行那一项操作。

这种分离让我们可以独立地测试每个边界。


5. 把拒绝与超时当作普通结果

一个智能体工作流必须能挺过:

  • 显式拒绝;
  • 批准窗口关闭;
  • 用户编辑被提议的参数;
  • 对话框出现之前的政策拒绝;
  • 批准之后外部操作失败。

拒绝不应触发反复劝说,也不应触发用另一种方式执行同一效应的自动回退。它应当返回一个带类型的结果,例如:

{
  "status": "denied",
  "reason": "user-declined"
}

模型可以提供一个不执行的替代方案,比如给用户留一份草稿,但它不能把拒绝重新解读为一个可以绕过去的障碍。


6. 让同意成比例且可理解

确认疲劳是一种安全失败。如果每次读取、渲染与本地计算都弹一个对话框,用户就会学会不看就批准。

权限可以按以下方式限定作用域:

  • 工具标识与版本;
  • origin;
  • 数据类别;
  • 目的地;
  • 最大效应;
  • 时长;
  • 每次调用是否仍需评审。

用户可能在一次会话中允许当前 origin 的 search_book,同时要求每条外部消息都被评审。被记住的权限应当保持可检视、可撤销。


7. 记录完整的权威性轨迹

Agent Inspector 应当把以下连起来:

用户目标
  → 模型提议
  → 被校验的参数
  → authority.effect.normalized
  → 政策决策
  → authority.approval.requested
  → authority.approval.decided   (approve / edit / deny / timeout)
  → authority.grant.bound → authority.grant.consumed
  → authority.effect.executed
  → 被观察到的效应

这些事件名是 Observatory 的;一份被拒绝或过期的 grant 会发出 authority.approval.decided 或 authority.grant.expired,而不发出 authority.effect.executed。对每个阶段,记录时间、origin、工具版本与关联标识。敏感值可以被脱敏,但轨迹仍必须说明移除了什么、以及剩下的记录是应用上报的还是直接观察到的。

审计轨迹在失败之后有用,但它更大的价值是实验性的。它让我们可以度量:模型提议不被允许的动作有多频繁、用户编辑参数有多频繁、以及哪些批准设计造成了困惑。


8. 测试边界,不只是对话框

有用的 fixture 包括:

  • 批准之后参数被篡改;
  • 一份过期的 grant 被重放;
  • 两个标签页争抢消费一个令牌;
  • 一个低风险工具尝试高风险副作用;
  • 一个 origin 试图使用另一个 origin 的 grant;
  • 用户拒绝后模型再次提议同一动作;
  • 执行部分成功并返回一个含糊的结果。

一个精致的确认窗口无法补偿一个接受未绑定或过期权威性的执行器。


结论

人的参与不是一项神奇的安全属性。只有当一个人看到一个可理解的、最终的效应,且其决策精确绑定到那个效应时,它才起作用。

有了这条边界,Agent Inspector 不仅能显示模型说了什么,还能显示一个被提议的动作为何获得(或未能获得)权威性。下一章把这一机制一般化。我们不再只对智能体工具调用应用政策,而是让浏览器把用户的政策应用到体验本身。


参考与延伸阅读

  1. OWASP, Authorization Cheat Sheet.
  2. W3C, Permissions.