通信行业周报:训练侧向推理侧转移,训练与推理共振
== 2024-12-22 12:42:52 == 热度 190
终端的豆包大模型调用量在半年时间内增长100倍。1.3C端应用落地大模型迭代或趋于稳定,ASIC芯片或迎来放量机会。大模型发展已经进入向C端应用推广的阶段。我们认为,在这一阶段C端大模型在单次迭代过程中将较少甚至不会出现较深层次的改动。基于相对固定的模型版本,厂商将有条件开始追求同等甚至更高算力下能效比更优秀的硬件,ASIC芯片或将迎来放量机会:1、据鲜枣课堂,ASIC(专用集成电路)为专用定制芯片。计算能力和计算效率严格匹配于任务算法的。芯片的核心数量,逻辑计算单元和控制单元比例,以及缓存等,整个芯片架构,也是精确定制的。ASIC可以实现极致的体积、功耗。这类芯片的可靠性、保密性、算力、能效,都会比通用芯片(GPU)更强。在同等预算下,AWS的Trainium2(ASIC芯片)可以比英伟达的H100GPU更快速完成推理任务,且性价比提高了30-40%。明年计划推出的Trainium3,计算性能提高了2倍,能效提高40%。2、据台湾媒体《电子时报》,2023年台积电已经开始出现CoWoS产能不足问题。相应对于英伟达高端算力卡的供应也形成了压制。3、2023年我国总算力规模达到230EFLOPs,同比增长27.78%。2024年9月,根据工信部披露数据,我国总算力规模达到246EFLOPs。我国算力规模处于高速增长通道中。我们认为对于下游厂商而言,寻求替代或是必经之路。2.行业要闻2.1中国版星链正式升空,首批发射1.3万颗卫星。据快科技、C114通信网,12月16日,我国在海南文昌卫星发射中心使用长征五号乙运载火箭,以一箭10星方式成功将卫星互联网低轨01组卫星发射升空,卫星顺利进入预定轨道,发射任务获得圆满成功。这是中国星网的“国网(gw)星座”首次批量组网发射,也是第一次使用长征五号B执行卫星互联网发射任务。卫星互联网低轨01组卫星使用Ka等频段载荷,主要为用户提供宽带通信、互联网接入等服务。从中国星网向国际电信联盟第一次提交轨道频率申请看,首批要发射12992颗卫星。国网星座是我国第一个巨型卫星互联网计划,也是我国首个空天一体6G互联网计划。中国星网的“国网星座”星座包含两个子星座:gw-a59和gw-a2星座,形成覆盖全球的互联网卫星星座,未来将推出手机直连卫星通信模式。gw星座共计规划发射12992颗卫星,其中gw-a59子星座6080颗,分布在500km
=*=*=*=*=*=
当前为第2/5页
下一页-上一页-
=*=*=*=*=*=
返回新闻列表
返回网站首页