← 返回 ←

· 原载于微信公众号「零代码法律人」 · 总阅读 37

Token 是什么?一个词元,AI 要算 320 亿次

TL;DR · 一句话Token 中文叫词元,是 AI 的「度」:切出来的字块,也是计价单位。一个词元背后,AI 要算 320 亿次。5 分钟视频,加五个要点。

Token 是什么?一个词元,AI 要算 320 亿次

▸ 这里原文有一段 5 分 15 秒视频,点这里去公众号原文看

▲ 上面是 5 分钟视频 · 不方便开声音,往下看要点

我爸又问我:Token 是什么?我说:中文叫词元,是 AI 的「度」。

一个词元,AI 要算多少次?按 DeepSeek 最新版的官方参数推算,三百二十亿次。这条视频讲三件事:词元怎么切、怎么收钱、怎么算,再加一个我自己的疑问:我家的机器,为什么慢。不方便开声音的,看下面五点。

01 · 词元:切出来的字块,也是电表

AI 不是一个字一个字读,它先把文字切成块:有的块是一个词,有的是半个词,这一块就叫一个词元。中文大约十个字切成六个词元,英文、数字、标点也都切成块。一份一万字的合同,切完是几千个词元。

切完就记账。词元还是计价单位,像电表的度、出租车的公里。进去的和出来的分开算,出来的贵好几倍。那份一万字的合同,让 AI 读一遍写个摘要,两分钱(推算)。开了深度思考,一句短问反倒比这还贵:它想的那部分,也按词元收。

中文大约 10 个字切成 6 个词元(DeepSeek 官方换算)

02 · 一个词元背后,320 亿次

AI 的「脑子」是几千亿个数。每吐一个词元,都要把用到的那部分数全过一遍,一个数大约两次运算:一乘一加。

DeepSeek 最新那一版,主干是 5520 亿个数,每吐一个词元,只叫其中 160 亿个上班。160 亿乘 2,就是 320 亿次。一个汉字不到一个词元,算得也少一些。这个公式不是我编的,出自 2020 年的一篇论文。

AI 不是查到答案,是一个一个词元算出来的。

每吐一个词元,只叫 160 亿个数上班

03 · 训练是建厂,推理是天天开火

训练像建厂:把这几千亿个数定下来,建一次就行。DeepSeek 前年公开过一次,训练跑了将近两个月。

推理像开火做饭:你问一句,它现炒一句。DeepSeek 也公开过一天的账:那一天开着的卡,跟训练用的快一样多了。这样天天开,两个多月就追平了一次训练。

而且这只是一家。豆包今年 6 月公布:一天处理 180 万亿个词元。谷歌那边,一天也是这个级别。

DeepSeek 2025 年 2 月公开的一天账,按这个量开,64 天追平一次训练(推算)

04 · 我家的机器,慢在哪

我一开始以为是算力不够。可按算力算,一张 5090 一秒能出好几千个词元;实际呢?一百多。

问题不在灶台,在传菜的通道:每吐一个词元,都要把十几个 G 的数从显存搬进芯片,通道一秒只搬一百多趟,所以一秒只出一百多个词元。DGX Spark 的通道还要窄得多,两台合跑一个更大的模型,也快不到哪儿去。做配音、写摘要够用,别指望它伺候一屋子人。

费不费电?我测了一下:让它答一个普通的法律问题,只算显卡,一度电够答一千来次。谷歌公布的一次提问比这还省,也是这个级别。

数据中心为什么快?它不是一次炒一桌,是几百个人的问题合成一锅炒,搬一趟,炒几百桌,一张卡一秒能出上千个词元。慢在搬运,不在计算。

通道一秒只搬 133 趟(按显存带宽推算),家里实测一秒 115–130 个词元

05 · AI 越来越便宜?对一半

最强那档没降,降的是「同样的本事」。DeepSeek 最强档的输出价,前年每百万词元 8 块,今年 27 块,还分了高峰、低谷,跟电费一样。真正一路往下的,是重复内容的价钱,和每次提问的耗电。

给法律人三句话:一,按词元收费,不按次;二,进去的和出来的不同价;三,用了多少,以接口返回的那个数为准,DeepSeek 和智谱官方文档都这么写。

元 / 百万词元,DeepSeek、智谱官方价目


回到我爸的问题:词元是 AI 的度,切出来的字块,也是记账的单位。一个词元,三百二十亿次;豆包一天,一百八十万亿个。

一个词元 320 亿次,豆包一天 180 万亿个

这是「跟我爸讲算力」第 2 篇。下一篇:这么多词元,要烧多少电?算力中心为什么都去乌兰察布,算力怎么变成了电力。

你今天问了 AI 几句?留言说说。

数据来源:国家数据局(词元译名)、DeepSeek 官方文档与价目页、DeepSeek V4.1 模型卡、DeepSeek-V3 论文与推理系统概览、智谱官方文档与价目、Kaplan 等 2020 年论文《Scaling Laws》、新华网(豆包日均词元)、谷歌 I/O 2026 与 2025 年 8 月官方博客、英伟达 DGX Spark 官网;家里 5090 为 2026 年 10 月 19 日实测(千问 27B 压缩版,不开思考)。「两分钱」「320 亿次」「两个多月追平」「好几千个」「上千个」按公开数字推算;家里和谷歌的耗电口径不同,只说量级。视频配音为 AI 克隆本人声音。


原文发布于「零代码法律人」。读者可前往 微信公众号阅读原文。