客户端
官方微信
官方微博
今日头条
北疆观察
数字报刊
北疆新闻 > 国内 > 正文

Token(词元)是大模型理解、处理、生成信息的最小单元。在近日举办的中科创星硬科技媒体行——清程极智专场活动中,清华大学计算机系长聘教授翟季冬分享了一组数据:2024年初至2026年3月,我国Token日均调用量激增约1400倍,规模突破140万亿。

是什么推动了Token日均调用量激增?翟季冬表示,AI智能体(Agent)的普及、模型开源生态的繁荣,以及MaaS(模型即服务)模式的成熟,共同推动了这一指数级跃升。但与此同时,Token服务质量参差不齐、供应商选择复杂等问题也日益凸显,亟需新型基础设施与服务平台加以解决。

“跟用电不一样,大家用电不会关心这是水电还是风电,因为对我们来说风电水电都是电。但是Token不一样,它有好有坏,不同的模型提供的Token质量存在较大差异。”翟季冬称。

当前,全球AI产业已进入规模化落地的关键阶段,Token成为AI时代的“水电煤”,是大模型服务与智能应用的核心生产要素。清程极智联合创始人师天麾表示,在Token需求爆发的同时,国产算力与国产模型迎来高速发展,但二者之间的推理环节却长期依赖海外引擎,难以充分释放国产硬件性能;而Token服务市场也面临乱、贵、慢、选型难等突出问题,供需错位、成本高企、体验不一,成为制约AI技术普惠化、规模化落地的核心瓶颈。(经济日报记者 沈慧)

北疆新闻 | 内蒙古自治区重点新媒体平台,内蒙古出版集团•内蒙古新华报业中心主管主办的国家互联网新闻信息采编发布服务一类资质平台。

标签:专家
编辑:方琳
5581

北疆新闻版权与免责声明:

一、凡本站中注明“来源:北疆新闻”的所有文字、图片和音视频,版权均属北疆新闻所有,转载时必须注明“来源:北疆新闻”,并附上原文链接。

二、凡来源非北疆新闻的新闻(作品)只代表本网传播该消息,并不代表赞同其观点。

如因作品内容、版权和其它问题需要同本网联系的,请在见网后30日内进行,联系邮箱:bjwmaster@163.com。

内蒙古呼和浩特发布沙尘暴橙色预警

版权声明:北疆新闻版权所有,未经书面授权,不得转载或建立镜像,违者依法必究。 本站违法和不良信息举报电话:15648148811蒙ICP备16001043号-1

Copyright © 2016- 北疆新闻 All Rights Reserved互联网新闻信息服务许可证:15120200009-1广播电视节目制作经营许可证:(蒙)字第631号蒙公网安备:15010502001245