AI对内存的需求，正在以连美光自己都没预料到的速度爆炸式增长。The Circuit播客近日发布了一期对话节目，主持人专访了美光科技数据中心业务部门高级副总裁兼总经理Jeremy Werner。Werner坦承，内存行业的产能已经无法跟上需求，目前美光正在全球同步推进五座晶圆厂的建设。如果内存不够存下这些历史状态，模型就必须从头重新计算，内存不足会让GPU的算力利用率急剧下降。目前上下文长度正以每年30倍的速度增长，全线内存产品都处于供不应求的状态。



=*=*=*=*=*=
返回新闻列表
返回网站首页