本报讯 （记者许林艳）近日，软通动力信息技术（集团）股份有限公司（以下简称“软通动力”）与某头部大模型厂商在北京签署智算服务协议。该模型厂商作为国内领先的大模型企业，在推理性能、长上下文处理及多轮交互等维度表现突出，在行业权威评测中位居前列。    根据协议，软通动力将为该模型厂商提供基于北京壹号词元工厂的词元推理服务，涵盖大模型推理加速、高性能算力集群适配及行业AI应用落地等场景，共同推动智能体时代从模型到词元服务的产业闭环。    6月9日，软通动力“词元工厂计划”的首个标杆示范项目——“北京壹号词元工厂”在京点亮，并同步向全球开源“词元工厂性能基准”（含评测框架LoadGen2.0）。这是行业首次针对智能体长时运行特征建立统一的性能度量标准。    根据协议，双方将在大模型推理加速、高性能算力集群优化、服务质量保障及行业AI应用落地等方面开展合作。    在模型推理加速方面，模型厂商将其大模型推理服务部署于北京壹号词元工厂，依托软通动力全栈观测体系和智能调度能力，获得标准化、可SLA保障的词元推理服务。软通动力提供弹性可扩展的词元产能，支撑其面向企业及开发者的规模化推理需求。    在高性能算力集群优化方面，双方将协同优化高性能算力集群上的推理性能，从算子适配、分布式通信到调度策略进行端到端调优，提升芯片在真实推理负载下的效率。    在服务质量保障方面，软通动力将根据模型厂商的业务需求，提供差异化SLA保障，通过实时观测与持续优化确保服务质量满足大规模商业化部署要求。    在行业AI应用落地方面，双方将围绕重点行业客户的AI应用需求，联合输出行业解决方案。    对模型厂商而言，大规模商业化部署需要稳定、高效、可SLA保障的词元服务作为底座。通过本次合作，模
=*=*=*=*=*=
当前为第1/2页
下一页-
=*=*=*=*=*=
返回新闻列表
返回网站首页