本报记者 王镜茹    随着生成式人工智能技术从“模型训练”逐步迈向大规模商业落地，以训练为核心的算力消耗，正逐渐转向以推理为主导的持续性算力需求。3月17日，英伟达首席执行官黄仁勋在GTC大会上表示，AI推理市场拐点已经到来，AI从训练阶段全面进入推理与执行阶段，推理算力需求呈指数级爆发。    “随着生成式人工智能应用规模扩大，推理算力需求增长速度可能远超训练算力。一方面，应用需求爆发，生成式AI与智能体应用加速落地，用户高频交互带来指数级推理请求；另一方面，专用推理芯片、液冷散热及光互连等技术持续突破，显著提升算力效率与并发能力，为大规模部署奠定基础。”深圳市前海排排网基金销售有限责任公司研究员张鹏远对《证券日报》记者表示。    从行业机构的预测来看，推理算力的重要性正持续提升。国际数据公司（IDC）预测，到2027年，我国推理算力占整体算力的比例将突破70%。中国IDC圈创始人、CEO黄超表示，2026年产业智能体将进入百花齐放的发展阶段，算力应用正从“训练主导”转向“推理驱动”，推理算力需求的爆发周期即将全面到来。    面对推理算力需求的快速增长，国内产业链上下游企业正加快技术研发和产品布局。在芯片层面，多家厂商正推出面向推理场景优化的芯片。相较于传统训练芯片，推理芯片更强调功耗控制、成本效率以及部署灵活性，因此在云端和边缘侧均具有广阔应用空间。    以深圳云天励飞技术股份有限公司（以下简称“云天励飞”）为例，该公司以NPU为核心，在云推理场景的大算力芯片上确定了GPNPU技术路线，并在矩阵、向量单元、存储层级和有效带宽利用上深度优化，目标是指数级降低token成本，加速大模型应用的规模化、普惠化落地。    2025年，云天励飞实现营业收入13.08亿元，同比增长42.57%。云天励飞相关负责人对《证券日报》记者表示：&ldqu
=*=*=*=*=*=
当前为第1/2页
下一页-
=*=*=*=*=*=
返回新闻列表
返回网站首页