Token是特定模型把文字编码后使用的单位;切法和数量取决于分词器。

模型不能直接接收人眼看到的句子,需要先把文字转换成一串编号。Token就是这串编号所对应的文字单元。

生活类比

像同一段货物按不同公司的装箱规则分箱

对应:原文=货物;分词器=装箱规则;Token=一个个箱子;Token编号=箱子标签

这个比方在哪会塌:Token不是有完整语义的词,也不是模型能处理的唯一最小单位;类比只说明切分和编码

它防止的误解:防止把Token固定换算成字数,或以为模型按人类词义切句子

Token为什么与你有关

  • 上下文容量通常以Token计算,输入、历史和输出会共同占用预算。
  • 部分API按输入和输出Token计费,但具体规则以产品价格页为准。
  • 同样字数的中文、英文、代码和表格,Token数量可能差很多。
  • 超出容量后,产品可能拒绝、截断、摘要或选择性保留,并非一定挤掉最早内容。
  • “一个Token就是一个汉字”——有时接近,有时会拆分或合并。
  • “128K Token就是固定多少页书”——排版、语言和分词器不同,不能固定换算。
  • “Token越少,回答一定越好”——简洁有助于节省容量,但信息是否完整更重要。

下一篇:上下文是什么:Token组成了模型本次能看到的信息。下一篇区分上下文、聊天记录、长期记忆和知识库。

整理方式
编辑原创通俗解释
内容状态
已完成编辑复核

最后复核:2026-07-26

AI 领域更新很快,相关工具/价格/规则可能已变化,重要事实请以官方来源为准。