摩尔线程完成对智谱glm-5 模型的适配

2月12日,北京商报记者陶凤、王天逸给大家带来了一个好消息,摩尔线程终于完成了对智谱GLM-5模型的适配。摩尔线程公司把他们的旗舰AI训推一体全功能GPU MTT S5000拿出来给大家用,他们用SGLang推理框架,Day-0当天就把GLM-5给适配了。这个过程中他们用了MUSA架构,这个架构可是非常强大的,对各类算子都支持得特别好。这让摩尔线程能够把模型推理的全过程都打通了,充分发挥了MTT S5000的原生FP8加速能力。这样一来,既保证了模型精度,又给显存节省了不少空间。这次适配成功不仅证明了MUSA软件栈已经很成熟了,更说明国产GPU对最新大模型的支持力度是非常大的。 现在GLM-5和MTT S5000这一对国产双强联合起来,开发者就能体验到和国际顶尖模型一样的编程感受了。无论是在函数补全还是漏洞检测这些场景中,它们都表现得很出色。它们还拥有很强的逻辑规划能力,可以应对各种复杂的长程任务挑战。如果有了Debug场景需要处理的话,它们也能从容应对。 总之,这次快速适配让我们看到了国产GPU在技术上的突破和实力。相信未来这样的国产双强组合会给我们带来更多惊喜!