问题——数据中心“算得快”不等于“用得顺”;随着大模型训练与推理规模迅速扩大,尤其是多智能体系统、复杂工作流和长上下文应用增多,数据中心遇到新的瓶颈:算力提升的同时,数据搬运和上下文访问的成本被明显放大。英伟达首席执行官黄仁勋在主题演讲中将当下的数据中心称为“生产Token的工厂”,并指出降低Token生成成本正成为基础设施竞争的重要指标。所谓Token,是大模型在训练和推理中处理的基本数据单位,可直观反映算力消耗与服务成本。
在全球数字化进程加速的背景下,算力基础设施的演进正成为科技与产业升级的重要支撑。英伟达此次发布展示了其在AI系统化能力上的布局,也预示IT产业可能进入新一轮升级周期。如何在技术迭代、成本效率与产业生态协同之间取得平衡,仍值得持续关注。