读端丨Token这笔“账”怎么算 戴开宇:AI时代更应守护思考的深度

潮新闻 编辑 汪洋

6月24日,字节跳动旗下国民级生成式人工智能助手豆包正式推出专业版订阅服务,月费从68元到500元不等。此前,三大通信运营商也相继推出了词元(Token)套餐。

当用AI开始花钱了,许多人才发现,原来Token这么贵。

详情点击>>

潮声丨大家都在用AI,但没人算清Token这笔“账”

人工智能已经进入大模型和生成式人工智能(GenAI)时代,无论是文本,还是图片、视频、代码,大模型要具有语义地理解和处理它们,就要将它们视为Token的序列。Token成为了AI理解世界的基本语义单元,它们相互联系,构建了对人类知识甚至可以说是智慧的数字化建模。对于平常人而言,直接的体感是使用大模型,尤其是配置大模型来使用智能体应用的时候,要为消耗的Token付费。所以Token成为了AI时代的计费单位,就如同我们买菜要称斤两付钱一样,GenAI会按照处理一个Token来计算费用,因为对于模型供应商而言,需要消耗算力以及其他的运营成本,这本质上是能量换信息的过程。 

在如今各行各业已经离不开大模型和AI智能体的时代,模型供应商制定的Token价格很大程度决定了AI所赋能的上游产业,这形成了新的商业逻辑和Token经济模式。模型供应商通过竞争Token的价格来吸引用户使用,比如推出了像Coding Plan这样性价比高的计费模式,甚至在注册时或者周期性赠送上千万Token的免费额度。当然,对于AI智能体这种一般的交互都要携带大量上下文信息的AI应用,比单纯和大模型对话要消耗更多的Token。使用智能体完成任务通常需要多次交互的流程才能完成,所以才有驾驭工程(Harness Engineering)以及循环工程(Loop Engineering)。所以对于较为复杂的任务,Token的消耗量动辄上亿。AI时代,大模型成为具有国家战略意义的基础设施,Token则如同工业时代驱动各行各业的石油一般重要。DeepSeekV4-Pro 采用国产GPU进行训练和推理服务,并提供只有国外同级别产品1/10到1/30的Token价格,不仅对消费者而言,对相关产业的发展也是意义重大的。 

而对于使用AI完成任务的使用者而言,消耗的Token是成本,完成这个任务能起到的价值则是AI带来的效益。仅仅以消耗的Token数来计量工作当然不尽合理,这如同以你写的文字数字和编程的代码量来计算价值一样。废话连篇的文章不如字字珠玑的一句话价值大。不同性能的大模型,消耗同样的Token也会产生价值完全不同的结果。如果性能不好的大模型产生具有“幻觉”的输出,那反而带来负价值。 

对于使用者而言,我觉得最关键的是要针对具体的需求场景来使用大模型和AI智能体。作为从教20多年的大学老师,我在思考智慧教育的关键是什么,在许多场合做相关分享时我都会强调,采用各种AI工具来方便的帮助老师生成教学大纲、PPT和各种多模态教学资料,或者开发AI助教应用来实现个性化学习固然重要,但是更值得思考的是,我们使用这些工具消耗的Token,仅仅是帮助我们的学生考出更好的成绩、更快捷的完成课程项目、提高了专业技能,还是通过格物致知,从人机协作中更好地认识了自己、提升了自己的认知呢?前者是帮助我们更好地完成了一些任务、解决了一些问题,后者则是让我们成为更好的自己。我想后者才是教育的本质。前者甚至可能让使用者更加依赖AI从而成为懒于思考者,已经有研究表明,许多使用者随着和大模型对话次数的增加,其思考力在下降。那这些消耗的Token换来的是表面任务的完成,实质是违背教育初衷的反而降低了心智。我想,这才是Token经济最应该好好思考之处。

海报由AI共同生成

“转载请注明出处”

责任编辑:钟融融