摘要: 据钛媒体援引相关数据,中国日均词元(token)调用量已突破 500 万亿,反映出国产大模型在推理侧的使用规模正加速扩张。词元调用量的跃升,直接对应着 GPU/ASIC 推理算力、云基础设施与数据中心电力需求的持续攀升, ...
|
据钛媒体援引相关数据,中国日均词元(token)调用量已突破 500 万亿,反映出国产大模型在推理侧的使用规模正加速扩张。词元调用量的跃升,直接对应着 GPU/ASIC 推理算力、云基础设施与数据中心电力需求的持续攀升,为大模型基础设施产业链带来长期增长动能。 |
刚表态过的朋友 (14 人)
-
匿名
-
匿名
-
匿名
-
匿名
-
匿名
-
匿名
-
匿名
-
匿名
-
匿名
-
匿名
-
匿名
-
匿名
-
匿名
-
匿名