今天给大伙儿讲讲《2025超大规模智算集群关键技术及工程落地研究报告》。报告一共45页,主要讲的是咱们国家怎么给人工智能搭建个硬底子。现在人工智能都玩大模型了,算力这块儿简直就是推动创新的核心燃料。最近有份报告说咱们的智算集群怎么升级,挺让人关注的。报告详细说了现在智算集群的情况,碰到了啥挑战,还有以后的路怎么走。报告里头说了,把算力从“万卡级”堆到“十万卡级”,不光是规模变大了,还得把硬件和软件一起改改,搞搞工程优化,是个系统性的大工程。 现在智能算力都超过基础算力了,成了增长的主力军。不管是国外的大公司在搞十万卡级的集群,还是国内的大模型参数从千亿冲万亿,对算力的要求都挺高的。硬件设备有限、单卡算力涨不动了,怎么办?只能通过研发架构和全链条整合来建大规模集群,这是提升整体算力的战略选择。这不仅是为了支撑像基础大模型、航天仿真、气候预测这种前沿科学研究,也是为了让制造业、医疗、金融这些行业智能化转型。报告觉得现在的重心不只是堆算力了,得把成千上万个计算单元连起来,高效配合才行。 虽然咱们在万卡集群上已经有突破了,但报告说想进十万卡级还得面对好几个大坎儿。卡之间连着效率不行会直接影响训练速度;高端交换机少了也会让服务器通信变慢;集群越大坏的概率就越大。国外有个例子说万卡集群训练过程中可能会坏好几百回组件。“部分节点忙死了,部分节点闲着”这种情况怎么办?怎么把修故障的时间缩到几分钟以内?这都决定了能不能把有效算力发出来。 为了解决这些难题,报告提出了个“四层一域”的架构。把机房配套、基础设施、智算平台、应用使能这四个层级和运营运维域紧紧连在一起。硬件上得搞高密度部署;平台上要统一调度异构算力;特别是“算存网协同优化”的概念很重要,就是让计算、存储和网络一起联动起来解决数据搬运慢和带宽不匹配的问题。比如用三级存储和智能调度算法让数据跑得跟计算一样快。 全栈工程化能力特别重要,它是把理论上的算力变成实际能干活的那部分。算力调度这块儿,用Kubernetes的云原生技术是主流。它能不管硬件底层啥样都统一管理任务。训练加速上有并行训练、混合精度这些招数把万亿参数模型的训练时间从几个月缩短到几周。运维这块儿得有全链路监控、智能容错和自动化运维三大体系。通过芯片级传感器实时盯着、AI预警异常、自动断点续训还有找原因分析能让有效训练时间占比大幅提升。 以后的发展趋势是密度提升、AI原生架构普及和高性能计算跟AI融合。液冷散热越来越普及了;软件定义算力能按需分配资源;高性能计算和AI计算也开始一起干了。全国一体化的调度体系正在形成,算力服务正变得更普惠。通过资源解耦和智能调度让更多中小企业和开发者也能低成本拿到好算力。报告里有个例子说通过一个千卡级的推理资源池能给行业客户提供灵活高效的服务既省钱又能让应用快点落地。 下面是报告的一些节选内容。中小未来圈那儿资料挺全的!