浏览器管理模型
面向一个模型、准入资格、资源与被接受配置都可能变化的浏览器管理能力进行工程设计,同时保住证据、兼容性与优雅恢复。
内置 AI 的核心承诺是一条抽象边界:
应用
↓
浏览器 AI API
↓
浏览器管理的运行时
↓
当前模型与执行策略
应用请求一项能力。浏览器选择如何提供它。
这种分离是有力的,但它不会让下层变得无关。API 之下的变化可以改变可用性、被接受的选项、性能与行为。
我们在完成第一个提示实验之前就遭遇了这个事实。
1. 第一次会话成功了
我们第一条真实的 Chrome 轨迹记录了这个序列:
LanguageModel exposed
↓
availability = available
↓
session creation started
↓
progress 0 → 1
↓
session ready in ~8.2 ms
该会话暴露了 9,216 单位的配额,并支持 clone() 与 destroy()。
之后,当扩展与浏览器环境发生了变化,一次新的会话创建失败了:
The sampling options are incompatible with speculative decoding (MTP). Prompt API sessions must specify compatible sampling options, i.e.
samplingMode:'most-predictable'ortopK:1ortemperature:0.
这是本书论点的缩影。
应用用了同一个能力名。活跃运行时施加了一条我们此前从未满足的契约。
2. 把观察与解释分开
这条错误直接支持几个主张:
- 会话配置被拒绝了;
- 拒绝关乎采样兼容性;
- 该运行时把这个约束与投机解码或 MTP 关联起来;
- 它指名了三个兼容的替代项。
它不直接确立:
- 完整的投机解码架构;
- 是否涉及一个独立的草稿模型;
- 有多少 token 被提出或验证;
- 是否每个 MTP 实现都要求贪心解码;
- 服务该请求的确切模型身份。
那些可能是貌似合理的解释,但它们不是这条错误中包含的观察。
这个区分在整本实验性书籍中都很重要。浏览器消息、公开文档、源代码、操作者配置与我们自己的假设是不同的证据类别。
3. 能力检测必要但不充分
应用通常会检查:
const availability = await LanguageModel.availability(options);
这个检查能回答:浏览器当前是否认为所请求的能力可用。它不证明之后每个生命周期步骤都会成功。
健壮的代码仍必须处理创建失败:
async function openSession(options) {
const availability = await LanguageModel.availability(options);
if (availability === "unavailable") {
return { outcome: "unavailable" };
}
try {
const session = await LanguageModel.create(options);
return { outcome: "ready", session };
} catch (error) {
return {
outcome: "creation-failed",
error: { name: error.name, message: error.message }
};
}
}
可用性是一次状态转换,不是整个功能的证书。
4. 优先使用具名的兼容模式
该报告所涉运行时接受了三个替代项:
{ samplingMode: "most-predictable" }
{ topK: 1 }
{ temperature: 0 }
产出这份证据的实验室配置档中,Browser AI Observatory 使用的是具名模式:
const session = await LanguageModel.create({
samplingMode: "most-predictable",
expectedInputs: [{ type: "text", languages: ["en"] }],
expectedOutputs: [{ type: "text", languages: ["en"] }]
});
具名模式比一个孤立的数值参数更清楚地表达意图:选择该运行时最受支持、最可预测的采样行为。
这是实验脚手架的一项兼容性决策。它不是"确定性采样对每个写作或创意功能都最优"的证据。需要多样性的产品可能需要另一条受支持的执行路径,或者判定当前本地能力不满足其契约。
截至 2026 年 9 月 6 日的文档核查,普通网页不应默认把采样控制当作普遍可用。本书保留被记录的 MTP 错误,因为它是来自被测试 Chrome 构建的证据;而实现配置档区分普通页面默认值、已注册的 Web 实验与扩展支持的兼容选项。
那次事故留下的恢复矩阵:
| 尝试的配置 | 运行时响应 | 恢复 |
|---|---|---|
| 被测构建上的默认采样 | 拒绝:与投机解码(MTP)不兼容 | 切换到具名的兼容模式 |
samplingMode: "most-predictable" |
接受 | 受控比较的实验室默认值 |
topK: 1 |
被指名为兼容替代项 | 仅限扩展支持的兼容表面 |
temperature: 0 |
被指名为兼容替代项 | 仅限扩展支持的兼容表面 |
5. 浏览器拥有资源生命周期
浏览器管理的 AI 可能依赖应用控制之外的准入资格与本地资源:
- 浏览器版本与实验性配置;
- 操作系统与硬件能力;
- 语言支持;
- 可用存储;
- 模型获取与更新状态;
- 浏览器政策;
- 当前运行时实现。
应用不应试图为这些资源冒充包管理器。它应当观察已暴露的状态并设计用户可见的恢复。
flowchart TD
A[能力请求] --> E{当下有资格?}
E -->|否| F[解释或回退]
E -->|是| R{资源就绪?}
R -->|否| P[显示获取进度]
R -->|是| C[创建会话]
P --> C
C -->|拒绝| D[记录兼容性失败]
C -->|就绪| U[运行功能]
即使模型归浏览器所有,每个分支仍归应用所有。
6. 进度是浏览器管理的证据,不是字节计数器
我们的第一条轨迹在可用性已经是 available、且创建在几毫秒内完成时,收到了从零到一的进度值。
API 的事件名为 downloadprogress,但被观察到的序列并未证明一次新的模型下载。浏览器可能在向一个新附着的 monitor 发出当前的获取状态。
调试器应当保留原始事件名,而 UI 使用谨慎的措辞,例如:
正在准备所需的模型资源:100%
它应当避免:
已下载 Gemma 4
第二条消息既发明了一次传输,也发明了一个模型身份。
7. 模型身份没有被 API 背书
实验性 flag 给了操作者一个把某次运行标注为"Gemma 4 flag enabled"的理由。会话对象不返回一个被背书的身份来证明某特定模型产出了该输出。
因此导出存储:
{
"model": {
"operatorLabel": "Gemma 4 flag enabled",
"source": "operator-supplied",
"browserAttested": false
}
}
这仍然支撑一个有用的实验。我们可以在两份被记录的配置下比较输出,同时精确描述被控制了什么。
它阻止了一个超出证据支撑范围的更强主张。
8. 版本证据也有层次
第一次运行的缩减 user-agent 字符串报告:
Chrome/152.0.0.0
操作者记录了完整构建:
152.0.7977.65
两者都属于运行信封。user agent 被自动捕获,但刻意缩减了版本细节。操作者备注保住了用于复现的确切构建。
被自动捕获的数据不自动就是足够的数据。
9. 稳定的代码可能遇到已变化的契约
当一次浏览器更新改变了某项能力背后的行为时,有几种可能的响应:
- 适配: 选择新近被要求的兼容选项。
- 降级: 用一条具体解释禁用该功能。
- 回退: 在披露数据移动之后使用另一条本地或远程路径。
- 门禁: 在规范 fixture 通过之前阻塞发布。
- 固定: 为实验使用受控的浏览器环境,而不是用于常规 Web 部署。
带任意参数的静默重试是危险的。它会改变输出行为,并让轨迹不可比较。
兼容性政策应当带版本:
const PROMPT_PROFILE = {
id: "prompt-most-predictable/1",
options: {
samplingMode: "most-predictable",
expectedInputs: [{ type: "text", languages: ["en"] }],
expectedOutputs: [{ type: "text", languages: ["en"] }]
}
};
于是一次运行既标识应用级配置档,也标识浏览器配置。
10. 更新需要行为回归测试
即使适配之后会话创建成功,输出行为仍可能改变。
一次浏览器或模型更新可能影响:
- 指令遵循;
- 延迟与吞吐;
- 上下文消耗;
- 结构化输出可靠性;
- 安全行为;
- 语言覆盖;
- fixture 通过率。
正确的响应不是永远冻结一个提示词。而是维护一个代表该功能契约的小型语料库,并在环境变化时重跑它。
操作轨迹回答系统是否运行了。行为 fixture 回答该功能是否仍完成其本职。
第四部分会把这组组合变成一道发布门禁。
11. 清除与存储压力是用户可见状态
昨天还可用的模型,可能在浏览器清理、存储压力或一次更新之后需要重新获取。Web 应用不能仅仅因为先前某次会话成功就假定永久安装。
界面需要为这些临时状态准备持久的措辞:
- “此设备不提供该 AI 能力。”
- “正在准备本地能力。”
- “该会话配置不再被接受。”
- “本地能力已变化;正在重新运行兼容性检查。”
这些消息描述功能边界,而不承诺应用并不控制的实现。
12. 抽象边界依然有效
我们的兼容性失败没有证伪内置 AI 架构。它澄清了该架构。
浏览器成功地对扩展隐藏了模型获取、存储与执行。应用没有下载权重,也没有初始化推理引擎。
但抽象边界是一份契约,不是一堵抵挡变化的墙。应用仍必须就被支持的选项进行协商、处理生命周期状态、测量行为并从失败中恢复。
模型可以是实现细节,而模型的影响仍然是应用的关切。
结论
当浏览器管理模型时,它拥有选择、获取、更新与执行策略。应用拥有兼容性、功能行为、失败恢复与如实沟通。
我们的前两次观察演示了两侧。一次会话在没有应用管理的模型代码的情况下就绪。之后一次会话失败了,因为活跃运行时要求一个兼容的采样模式。
那次失败不是对本书的打断。它是本书论点迄今最直接的证据。
我们现在拥有了浏览器运行时、其任务 API、会话生命周期、上下文预算、性能测量与模型管理边界的架构。第四部分提出更难的产品问题:当操作成功 resolve 时,我们怎么知道结果正确到可以使用?
参考与延伸阅读
- Chrome for Developers, The Prompt API.
- Chrome for Developers, Understand built-in model management in Chrome.
- Chrome for Developers, Get started with built-in AI.
- Google DeepMind, Gemma.