o;对于企业而言，随着行业竞争从比训练规模逐步转向比推理效率、比交付成本、比系统赚钱能力，谁能更早把硬件、存储和软件协同做到位，谁就更有机会在推理时代占据主动。”    在服务器和系统层面，头部厂商也在持续推出针对推理场景优化的算力平台。例如，浪潮电子信息产业股份有限公司推出了元脑R1推理服务器，可实现单机支持16张标准PCIe双宽卡，单机即可部署DeepSeek-671B模型；推出元脑CPU推理服务器，可快速部署并高效运行DeepSeek-R132B、QwQ-32B等新一代推理模型。    与此同时，算力基础设施建设也在同步提速。过去，国内许多智算中心普遍采用训推一体的建设模式。3月12日，云天励飞中标广东省湛江市AI渗透支撑新质生产力基础设施建设项目，该项目定位为专注推理任务的AI推理集群，主要面向各类行业应用场景，为国内传统产业的AI化提供落地样本。    北京止于至善投资管理有限公司总经理何理认为，在这一变革中，高性能推理芯片、HBM及全栈软件将率先受益算力红利。推理场景对低延迟、高吞吐和能效要求极高，LPU、ASIC等专用架构将加速替代通用计算单元，HBM4等存储技术将成为突破带宽瓶颈的关键。同时，算力由数据中心向边缘侧下沉，高密度推理机架与先进散热技术需求提升，叠加模型量化、参数压缩等编译优化，将推动产业从硬件堆叠转向软硬协同。（编辑 乔川川）

=*=*=*=*=*=
当前为第2/2页
上一页-
=*=*=*=*=*=
返回新闻列表
返回网站首页