模型进入生产环境后，基础设施面临新挑战。大会信息显示，大模型在客服、风控、研发等场景快速落地，企业IT系统的核心需求正从"业务上云"转向"模型在云上稳定运行"。余锋指出，与传统互联网服务相比，模型服务具有计算密集、链路更长、依赖数据与算力等特点，且需要持续迭代。这使得模型推理、训练、数据处理等环节被纳入基础设施范畴，成为需要稳定供给的基础能力。
从虚拟化到云原生，再到以模型为中心的基础设施重构，技术演进始终围绕效率与可靠性展开。大模型进入生产系统不是终点，而是基础设施升级的新起点。谁能将模型服务建设成稳定可控、成本合理的基础能力，谁就能在新一轮竞争中占据优势。