

核心概念
一句话以文字进入模型,随后变成一张关系网络。
预计算的 bert-mini 结果可立即打开——与你自己运行一句话时相同的模型、相同的四层十六头、相同的数值,只是无需下载。随后你的句子会在设备端经过同一个编码器。
核心机制
权重化为光线
选择一个词,界面就会读取它真实的注意力行。每条弧线连接另一个词:越亮、越粗代表权重越高,同时排名中始终显示精确数值。
以上全部来自一次真实的计算结果,由随站点发布的权重算出,而非示意图。运行你自己的句子,同样的数值会在你的设备上重新计算。
三种观察方式
同一份注意力结果可以呈现为动态关系、单个注意力头或完整矩阵。切换视图只改变观察方式,不改变底层结果。
Diagram
关系
聚焦词向整句话发出加权弧线,完整排名让每一个视觉结论都可被检查。
Tokens
词 → 片段
每个词与词表迫使它拆成的片段并列显示,并标出各自所在的行号。模型从不接收你的词,只接收这些数字。
Matrix
全部词对
在统一标尺上读取每一对源词到目标词的权重,并可选择任意一行重新聚焦。
实现原理
真实 BERT 前向计算
四层 BERT mini 编码器直接在 JavaScript 中运行。界面显示的是其真实 softmax 注意力权重,并非动画样例。
混合精度权重
多数矩阵使用 int8;对注意力敏感的 query 与 key 权重使用 int16;偏置与归一化保留 fp32。
按需加载嵌入
浏览器只请求当前句子所需的嵌入行,而无需下载完整的 31.25 MB 表。
独立 Worker
分词、资源校验和推理都在主线程之外完成,使视觉场景保持流畅响应。
SHA-256 资源校验 · WordPiece 分词 · 无后端 · 无远程模型 API
关键数据
如何理解
它是诊断工具,不是读心术
注意力是一种诊断视图,并非模型理解或推理的证据。在四层模型上,按头平均的 rollout 接近均匀分布,因此界面展示的并不是它:对于你聚焦的词,场景会在那些并非只盯着相邻词的注意力头中,选出最具选择性的一个,并连同支持它的权重一并标明。
隐私优先设计
推理在专用浏览器 Worker 中运行。此页面不采集产品分析或 Sentry 数据,句子始终保留在你的设备上。



