← Browser AI From First Principles

摘要是一份契约

配置、运行并评估一份浏览器管理的 Summarizer 契约,横跨类型、长度、格式、偏好、依据性与遗漏,同时把自动检查与人工判断分开。

摘要看起来是理想的本地 AI 功能。

输入已经在浏览器里。期望输出比输入小。这个任务对文章、文档、对话、评审与支持内容都有用。当浏览器管理的模型可以在设备上运作时,把整个源头发给远程供应商会显得不成比例。

于是实现看起来显而易见:

const summarizer = await Summarizer.create();
const result = await summarizer.summarize(text);

代码是对的。

功能是没有被规定的。

我们需要什么样的摘要?应当多长?Markdown 可以吗?哪些事实必须活下来?目标是抽取、综合、一个标题还是一个导语?当源超出模型的有效容量时会发生什么?我们如何检测一段流畅却颠倒了核心主张的摘要?

摘要不只是更短的文本。

它是一份压缩契约。


1. 压缩有一个目标

设源文档包含信息 $X$,摘要包含一个更小的表示 $S$。

平凡的压缩函数是:

$$ f(X) = \varnothing $$
它完美地最小化了输出长度,也什么都没保留。

有用的摘要器必须优化若干相互竞争的属性:

$$ Q(S \mid X) = w_c C(S, X) + w_f F(S, X) + w_r R(S) + w_l L(S) $$
其中:
  • $C$ 度量对重要源内容的覆盖;
  • $F$ 度量对源的事实忠实度;
  • $R$ 度量可读性;
  • $L$ 度量对所请求长度与形式的符合。

这些量可能冲突。加一条限定可能提升忠实度,却让标题过长。删掉细节可能改善可读性,却删掉了赋予该主张意义的例外。

API 无法从 “summarize” 这个词推断我们的产品权重。

我们需要声明哪种损失是可接受的。


2. 摘要类型改变任务本身

Summarizer API 暴露四种摘要类型:

类型 预期操作
key-points 把最重要的点抽取为一个列表
tldr 提供一个紧凑的总览
teaser 选取引人阅读的素材
headline 把要点表达为一个标题

它们不是同一目标上的风格变体。

好的 teaser 可以刻意省略结论。好的 key-points 摘要则不应如此。headline 向一个中心命题压缩。TL;DR 可以保留一个小小的叙事弧。

如果我们用同一段参考段落评估全部四种,就会惩罚功能上正确的差异。

因此摘要评估的第一条规则是:

先规定这段压缩文本是做什么用的,再评判它保留了什么。

Browser AI Observatory 把 type 记录为创建配置,因此轨迹中绝不会出现一个没有标注的"摘要"结果。


3. 长度是语义的,不只是数值的

API 提供 short、medium 与 long,但它们的预期形式随摘要类型变化。Chrome 用条目数记录 key-points 长度,用句子数记录 TL;DR 与 teaser 长度,用大致词数限制记录 headline 长度。

这个设计编码了一个有用的想法:长度应当用贴合该制品的单位来表达。

要点      → 条目
TL;DR      → 句子
headline   → 词

一个通用的最大字符数更容易实现,但意义更小。

即便这些按类别设定的目标也只是结构限制,不是语义充分性的证据。三个条目仍可能重复同一个想法。五个句子仍可能遗漏结论。一个十二词的标题仍可能颠倒谁做了什么。

所以我们的 fixture 把它们分开:

  • 形式检查:条目数、词数、格式;
  • 覆盖检查:必需的概念或主张;
  • 忠实度检查:无矛盾、无无据添加;
  • 有用性检查:结果服务于读者的真实需求。

只有第一类容易在没有另一个语义裁判的情况下自动化。


4. 格式是下游系统的一部分

Summarizer API 可以产生 Markdown 或纯文本。

这个选项影响的不止是外观。

Markdown 要点可以渲染为列表、复制进文档或被结构性解析。它们也可能包含链接、类代码片段或格式错误的语法。如果应用把生成的 Markdown 当作原始 HTML 注入,就会制造一个与摘要质量无关的渲染与安全问题。

纯文本更容易安全显示,但去掉了某些任务所需的结构线索。

我们的面板用 textContent 渲染输出:

response.append(document.createTextNode(chunk));

这保留了生成的字符,而不把它们当作 HTML 解读。未来的 Markdown 渲染器必须对其输出做消毒,并应当在轨迹中保留原始文本。

因此格式契约是双面的:

模型承诺一种表示
应用承诺安全的解读

一方不能替代另一方。


5. 偏好暴露真实的权衡

API 带有一个 preference 选项,取值如 auto、speed 与 capability。

这给了我们一个格外有用的实验。我们可以固定源、摘要类型、格式与长度,只改变浏览器声明的优化偏好。

const base = {
  type: "key-points",
  format: "markdown",
  length: "medium",
  expectedInputLanguages: ["en"],
  expectedContextLanguages: ["en"],
  outputLanguage: "en"
};

const fast = await Summarizer.create({
  ...base,
  preference: "speed"
});

const capable = await Summarizer.create({
  ...base,
  preference: "capability"
});

对每条路线记录:

  • 针对确切选项的可用性;
  • 是否发生额外获取;
  • 会话创建时间;
  • 首个输出时间;
  • 总生成时间;
  • 输出尺寸;
  • 结构化检查;
  • 覆盖与忠实度评审。

我们不应从选项名推断 capability 在每种情况下都产生更好的答案。应当检验任何质量提升在该任务上是否可见,以及是否值得那笔延迟成本。


6. 上下文不是源文本

Summarizer API 把源输入与上下文分开。

const summary = await summarizer.summarize(source, {
  context: "The reader understands web development but is new to local AI."
});

源包含要压缩的主张。上下文描述这次压缩应如何被解读或呈现。

把二者混在一起制造两个问题。第一,上下文指令可能被当作文档的一部分意外地被摘要进去。第二,如果应用把一切拼进一个提示,不受信的源文本可能被当作控制指令处理。

任务专用 API 给了我们分开的字段,但它不消除对抗性内容。模型仍在处理语言,源文档可以包含旨在改变其行为的指令。

应用应当保留来源:

受信的应用配置
受信的任务上下文
不受信的源文档
生成的摘要

当内容捕获启用时,观测站应当分开显示这些角色。


7. 摘要之前先去掉标记

摘要一个页面时,方便的输入常常是:

document.querySelector("article").innerHTML

这会把标签、属性、隐藏结构以及可能无关的控件送进模型输入。

Chrome 的文档建议去掉不必要的标记,并在适当处使用 innerText 之类的已渲染文本。

const article = document.querySelector("article");
const source = article?.innerText ?? "";

即使 innerText 也不是完整的内容抽取器。导航标签、图注、相关链接与广告仍可能根据所选元素进入输入。阅读工具需要一条内容选择策略,以及一个"将要摘要什么"的可见指示。

调试器应当在模型调用之前记录抽取指标:

{
  "type": "prompt.started",
  "data": {
    "apiId": "summarizer",
    "input": {
      "chars": 18422,
      "bytes": 19108,
      "redacted": true
    },
    "extractor": "article-inner-text/1"
  }
}

如果摘要失败是因为抽取器选错了材料,换模型也修不好它。


8. 构建第一个规范 fixture

扩展包含一段简短的架构性源文本:

A browser-managed AI API moves model selection, download, update, and inference runtime behind a browser capability boundary. The application still owns feature design, availability handling, consent, validation, fallback, and user-visible failure recovery. Local execution can improve privacy and latency, but those properties belong to the complete data flow and measured lifecycle rather than to the word local.

fixture 请求简短的 Markdown 要点,并提供这段上下文:

Preserve the distinction between browser responsibility and application responsibility.

它的自动断言是刻意透明的:

[
  { kind: "min-bullets", value: 3 },
  { kind: "contains", value: "browser" },
  { kind: "contains", value: "application" }
]

人工细则才是最重要的部分:

No claim that local execution is automatically private or faster.

为什么不把那条细则自动化成 not-contains: "private"?

因为正确的摘要应当被允许提及隐私。失败是一种关系性的改变:从在完整的数据流分析下可以改善隐私变成因为它是本地的所以它是私密的。词语匹配无法区分这两种主张。

这是一个更大评估规则的紧凑例子:

自动化你真正能测量的属性,把其余判断显式地留作未决。


9. 在本章中运行规范契约

从第 06 章选择 Run with Browser AI 以打开:

/tools/ai/browser-ai-from-first-principles/06-chapter/

页面加载 Browser AI Observatory 所用的同一个规范 Summarizer fixture。因此源、上下文、默认选项与断言描述的是同一个共享实验,而不是一个网站仿制品。

契约控制是可执行的:

type        key-points | tldr | teaser | headline
format      markdown | plain-text
length      short | medium | long
preference  auto | speed | capability

选一个配置并点击 Inspect Summarizer。页面用当前显示的确切值调用 Summarizer.availability(options)。随后 Prepare Summarizer 用同样那些选项调用 Summarizer.create(),并记录获取进度与会话创建时间。

更改任何创建选项都会销毁已准备的实例,使旧的预检失效。这是有意的。为简短 Markdown 要点创建的会话,不是面向 headline 的能力契约可用的证据。

Run contract 把源作为 source 文本发送,把 fixture 指令作为 context 发送。两个字段在 API 调用与事件轨迹中都保持分开。流式分片以文本出现,而不是被解读为 Markdown,保住了先前确立的安全渲染边界。

操作完成时,页面评估四项检查:

检查 判定
至少三个 Markdown 条目 自动
包含 “browser” 自动
包含 “application” 自动
不声称本地天然更私密或更快 人工评审

前三项检查透明但脆弱。通过它们证明的是结构合规与最小词面覆盖。一段摘要可以同时包含两个必需的词,却仍颠倒二者的关系。因此第四项检查保持黄色、未决;界面不会把一个缺席的语义裁判默默转换成通过。

完整事件序列进入与前几章相同的 Observatory 轨迹:

capability.inspect.*
session.create.*
model.download.progress
prompt.started
prompt.chunk
prompt.finished
fixture.evaluated

这些事件保留 apiId: "summarizer"、会话标识、提示标识、耗时、尺寸与 metrics-only 捕获元数据。操作性完成与 fixture 接受保持为不同的事件。

回放模式同样严格。那份已评审的 9 月 2 日导出包含 Prompt API 会话证据,但没有 Summarizer 事件。实验室直接这么说。它不把一次成功的 LanguageModel 会话当作规范 Summarizer 契约已运行的证据。

这就是其余任务 API 章节将遵循的模式:声明任务契约、检视那些确切选项、刻意地创建、运行规范 fixture、只自动化站得住的检查,并让未决的判断保持可见。


10. 运行重复试验

一次生成结果几乎说明不了稳定性。

对每个配置,在受控环境中把 fixture 运行若干次。保留:

浏览器版本
实验性 flag
操作系统
硬件类别
API 选项
运行前的模型就绪状态
轨迹事件
输出
自动检查
人工判定

然后计算比率而不是轶事:

$$ P(\text{structural pass}) = \frac{\text{runs satisfying structural checks}} {\text{completed runs}} $$
以及:
$$ P(\text{accepted}) = \frac{\text{human-accepted runs}} {\text{completed runs}} $$
把操作性失败与被拒绝的输出分开。一次无法创建会话的运行,与一次产生误导性摘要的运行不是同一种失败。

观测站导出给我们事件底座。后续某一章会加入批量执行与比较报告。


11. 长文档需要另一种架构

一个浏览器页面可以比模型能有效使用大得多。在任意字符数处截断既简单又危险:结论、例外与更后的证据会系统性地消失。

一个常见的替代方案是分层摘要:

    flowchart TD
    D[文档] --> C[语义分块]
    C --> S[分块摘要]
    S --> F[最终综合]
  

这扩展了容量,却引入了另一个损失面。每个分块摘要都可能漏掉一项事实。最终综合只看到在更早阶段存活下来的东西。跨分块的关系可能消失。

调试器必须保留血缘:

文档
  ├── 分块 1 → 摘要 1
  ├── 分块 2 → 摘要 2
  └── 分块 3 → 摘要 3
                  ↓
             最终摘要

没有血缘,开发者只能看到最终的遗漏,无法定位信息消失的那个阶段。

我们把这个实现推迟到上下文各章,因为分块取决于实际容量与会话行为。这里要点在于:“摘要长输入"不是用一个更大的字符串做一次模型调用。


12. 一次成功的 API 调用只是评估的开始

当 summarize() resolve 时,运行时成功了。

产品仍可能失败,因为结果:

  • 遗漏了一项必需的主张;
  • 引入了一个源中不存在的主张;
  • 删掉了一条限定;
  • 合并了两个行为者;
  • 用了错误的摘要功能;
  • 产生了不安全的标记;
  • 以含义为代价满足了长度;
  • 听起来足够可信,以至于没人注意到。

观测站先记录运行时完成,再记录 fixture 评估:

prompt.finished { outcome: completed }
fixture.evaluated { automatic pass: true, human checks: 1 }
feature.validation.finished { accepted: false }

这些事件彼此不矛盾。它们描述的是不同的层。


结论

摘要是任务特定契约下的有损压缩。

Summarizer API 让应用声明类型、格式、长度、偏好、语言与上下文。这些字段使该操作比一个无结构的提示更易检视。它们不能决定产品承受得起丢失哪些信息。

有用的评估把形式、覆盖、忠实度与有用性分开。它把操作状态独立于行为接受来记录,重复运行 fixture,并保留抽取与分块血缘。它拒绝把一次词面检查变成关于含义的主张。

第 06 章现在让这份契约变得可执行。读者可以改变一个已声明的维度、重跑同样的预检与会话生命周期、检视由此产生的轨迹,并看到哪些结论是自动的、哪些仍需判断。

下一章从压缩走向转换。Writer、Rewriter 与 Proofreader 都作用于文本,但它们对文本拥有不同的权威性。把它们当作可互换的,就是"修个语法"的要求如何变成一次没人要求的改写的。


参考与延伸阅读

  1. Chrome for Developers, Summarize with built-in AI.
  2. Chrome for Developers, Inform users of model download.
  3. Chrome for Developers, Session compacting with the Prompt API.
  4. Chrome for Developers, Create AI evaluations.