← Browser AI From First Principles

浏览器管理模型

面向一个模型、准入资格、资源与被接受配置都可能变化的浏览器管理能力进行工程设计,同时保住证据、兼容性与优雅恢复。

内置 AI 的核心承诺是一条抽象边界:

应用
    ↓
浏览器 AI API
    ↓
浏览器管理的运行时
    ↓
当前模型与执行策略

应用请求一项能力。浏览器选择如何提供它。

这种分离是有力的,但它不会让下层变得无关。API 之下的变化可以改变可用性、被接受的选项、性能与行为。

我们在完成第一个提示实验之前就遭遇了这个事实。


1. 第一次会话成功了

我们第一条真实的 Chrome 轨迹记录了这个序列:

LanguageModel exposed
      ↓
availability = available
      ↓
session creation started
      ↓
progress 0 → 1
      ↓
session ready in ~8.2 ms

该会话暴露了 9,216 单位的配额,并支持 clone() 与 destroy()。

之后,当扩展与浏览器环境发生了变化,一次新的会话创建失败了:

The sampling options are incompatible with speculative decoding (MTP). Prompt API sessions must specify compatible sampling options, i.e. samplingMode:'most-predictable' or topK:1 or temperature:0.

这是本书论点的缩影。

应用用了同一个能力名。活跃运行时施加了一条我们此前从未满足的契约。


2. 把观察与解释分开

这条错误直接支持几个主张:

  • 会话配置被拒绝了;
  • 拒绝关乎采样兼容性;
  • 该运行时把这个约束与投机解码或 MTP 关联起来;
  • 它指名了三个兼容的替代项。

它不直接确立:

  • 完整的投机解码架构;
  • 是否涉及一个独立的草稿模型;
  • 有多少 token 被提出或验证;
  • 是否每个 MTP 实现都要求贪心解码;
  • 服务该请求的确切模型身份。

那些可能是貌似合理的解释,但它们不是这条错误中包含的观察。

这个区分在整本实验性书籍中都很重要。浏览器消息、公开文档、源代码、操作者配置与我们自己的假设是不同的证据类别。


3. 能力检测必要但不充分

应用通常会检查:

const availability = await LanguageModel.availability(options);

这个检查能回答:浏览器当前是否认为所请求的能力可用。它不证明之后每个生命周期步骤都会成功。

健壮的代码仍必须处理创建失败:

async function openSession(options) {
  const availability = await LanguageModel.availability(options);
  if (availability === "unavailable") {
    return { outcome: "unavailable" };
  }

  try {
    const session = await LanguageModel.create(options);
    return { outcome: "ready", session };
  } catch (error) {
    return {
      outcome: "creation-failed",
      error: { name: error.name, message: error.message }
    };
  }
}

可用性是一次状态转换,不是整个功能的证书。


4. 优先使用具名的兼容模式

该报告所涉运行时接受了三个替代项:

{ samplingMode: "most-predictable" }
{ topK: 1 }
{ temperature: 0 }

产出这份证据的实验室配置档中,Browser AI Observatory 使用的是具名模式:

const session = await LanguageModel.create({
  samplingMode: "most-predictable",
  expectedInputs: [{ type: "text", languages: ["en"] }],
  expectedOutputs: [{ type: "text", languages: ["en"] }]
});

具名模式比一个孤立的数值参数更清楚地表达意图:选择该运行时最受支持、最可预测的采样行为。

这是实验脚手架的一项兼容性决策。它不是"确定性采样对每个写作或创意功能都最优"的证据。需要多样性的产品可能需要另一条受支持的执行路径,或者判定当前本地能力不满足其契约。

截至 2026 年 9 月 6 日的文档核查,普通网页不应默认把采样控制当作普遍可用。本书保留被记录的 MTP 错误,因为它是来自被测试 Chrome 构建的证据;而实现配置档区分普通页面默认值、已注册的 Web 实验与扩展支持的兼容选项。

那次事故留下的恢复矩阵:

尝试的配置 运行时响应 恢复
被测构建上的默认采样 拒绝:与投机解码(MTP)不兼容 切换到具名的兼容模式
samplingMode: "most-predictable" 接受 受控比较的实验室默认值
topK: 1 被指名为兼容替代项 仅限扩展支持的兼容表面
temperature: 0 被指名为兼容替代项 仅限扩展支持的兼容表面

5. 浏览器拥有资源生命周期

浏览器管理的 AI 可能依赖应用控制之外的准入资格与本地资源:

  • 浏览器版本与实验性配置;
  • 操作系统与硬件能力;
  • 语言支持;
  • 可用存储;
  • 模型获取与更新状态;
  • 浏览器政策;
  • 当前运行时实现。

应用不应试图为这些资源冒充包管理器。它应当观察已暴露的状态并设计用户可见的恢复。

    flowchart TD
    A[能力请求] --> E{当下有资格?}
    E -->|否| F[解释或回退]
    E -->|是| R{资源就绪?}
    R -->|否| P[显示获取进度]
    R -->|是| C[创建会话]
    P --> C
    C -->|拒绝| D[记录兼容性失败]
    C -->|就绪| U[运行功能]
  

即使模型归浏览器所有,每个分支仍归应用所有。


6. 进度是浏览器管理的证据,不是字节计数器

我们的第一条轨迹在可用性已经是 available、且创建在几毫秒内完成时,收到了从零到一的进度值。

API 的事件名为 downloadprogress,但被观察到的序列并未证明一次新的模型下载。浏览器可能在向一个新附着的 monitor 发出当前的获取状态。

调试器应当保留原始事件名,而 UI 使用谨慎的措辞,例如:

正在准备所需的模型资源:100%

它应当避免:

已下载 Gemma 4

第二条消息既发明了一次传输,也发明了一个模型身份。


7. 模型身份没有被 API 背书

实验性 flag 给了操作者一个把某次运行标注为"Gemma 4 flag enabled"的理由。会话对象不返回一个被背书的身份来证明某特定模型产出了该输出。

因此导出存储:

{
  "model": {
    "operatorLabel": "Gemma 4 flag enabled",
    "source": "operator-supplied",
    "browserAttested": false
  }
}

这仍然支撑一个有用的实验。我们可以在两份被记录的配置下比较输出,同时精确描述被控制了什么。

它阻止了一个超出证据支撑范围的更强主张。


8. 版本证据也有层次

第一次运行的缩减 user-agent 字符串报告:

Chrome/152.0.0.0

操作者记录了完整构建:

152.0.7977.65

两者都属于运行信封。user agent 被自动捕获,但刻意缩减了版本细节。操作者备注保住了用于复现的确切构建。

被自动捕获的数据不自动就是足够的数据。


9. 稳定的代码可能遇到已变化的契约

当一次浏览器更新改变了某项能力背后的行为时,有几种可能的响应:

  1. 适配: 选择新近被要求的兼容选项。
  2. 降级: 用一条具体解释禁用该功能。
  3. 回退: 在披露数据移动之后使用另一条本地或远程路径。
  4. 门禁: 在规范 fixture 通过之前阻塞发布。
  5. 固定: 为实验使用受控的浏览器环境,而不是用于常规 Web 部署。

带任意参数的静默重试是危险的。它会改变输出行为,并让轨迹不可比较。

兼容性政策应当带版本:

const PROMPT_PROFILE = {
  id: "prompt-most-predictable/1",
  options: {
    samplingMode: "most-predictable",
    expectedInputs: [{ type: "text", languages: ["en"] }],
    expectedOutputs: [{ type: "text", languages: ["en"] }]
  }
};

于是一次运行既标识应用级配置档,也标识浏览器配置。


10. 更新需要行为回归测试

即使适配之后会话创建成功,输出行为仍可能改变。

一次浏览器或模型更新可能影响:

  • 指令遵循;
  • 延迟与吞吐;
  • 上下文消耗;
  • 结构化输出可靠性;
  • 安全行为;
  • 语言覆盖;
  • fixture 通过率。

正确的响应不是永远冻结一个提示词。而是维护一个代表该功能契约的小型语料库,并在环境变化时重跑它。

操作轨迹回答系统是否运行了。行为 fixture 回答该功能是否仍完成其本职。

第四部分会把这组组合变成一道发布门禁。


11. 清除与存储压力是用户可见状态

昨天还可用的模型,可能在浏览器清理、存储压力或一次更新之后需要重新获取。Web 应用不能仅仅因为先前某次会话成功就假定永久安装。

界面需要为这些临时状态准备持久的措辞:

  • “此设备不提供该 AI 能力。”
  • “正在准备本地能力。”
  • “该会话配置不再被接受。”
  • “本地能力已变化;正在重新运行兼容性检查。”

这些消息描述功能边界,而不承诺应用并不控制的实现。


12. 抽象边界依然有效

我们的兼容性失败没有证伪内置 AI 架构。它澄清了该架构。

浏览器成功地对扩展隐藏了模型获取、存储与执行。应用没有下载权重,也没有初始化推理引擎。

但抽象边界是一份契约,不是一堵抵挡变化的墙。应用仍必须就被支持的选项进行协商、处理生命周期状态、测量行为并从失败中恢复。

模型可以是实现细节,而模型的影响仍然是应用的关切。


结论

当浏览器管理模型时,它拥有选择、获取、更新与执行策略。应用拥有兼容性、功能行为、失败恢复与如实沟通。

我们的前两次观察演示了两侧。一次会话在没有应用管理的模型代码的情况下就绪。之后一次会话失败了,因为活跃运行时要求一个兼容的采样模式。

那次失败不是对本书的打断。它是本书论点迄今最直接的证据。

我们现在拥有了浏览器运行时、其任务 API、会话生命周期、上下文预算、性能测量与模型管理边界的架构。第四部分提出更难的产品问题:当操作成功 resolve 时,我们怎么知道结果正确到可以使用?


参考与延伸阅读

  1. Chrome for Developers, The Prompt API.
  2. Chrome for Developers, Understand built-in model management in Chrome.
  3. Chrome for Developers, Get started with built-in AI.
  4. Google DeepMind, Gemma.