随着大模型等新一代人工智能技术快速迭代，应用正从互联网平台向医疗、教育、交通、制造等更广领域渗透，人工智能在提升效率、优化公共服务的同时，也将网络安全、数据安全、内容治理、伦理责任等问题推到台前。
12月18日，在以“AI安全边界：技术、信任与治理新秩序”为主题的论坛上，与会人士围绕技术进步与风险防控如何并行展开讨论。
中国网络空间安全协会相关负责人提出，人工智能治理要把握“促进发展与保障安全”的关系，关键在于分类分级、精准施策。
问题方面，人工智能应用的风险正在呈现多维度叠加态势。
一方面，生成式内容让虚实边界更易被模糊，深度伪造、虚假信息传播等问题对舆论生态与社会信任带来挑战；另一方面，算法推荐可能强化“信息茧房”，对公共讨论空间与价值判断产生潜在影响；更值得关注的是，风险不再局限于数字空间，在自动驾驶、智慧医疗、具身智能等领域，系统失误或被恶意利用可能外溢到现实世界，带来人身与财产安全隐患。
风险类型从“信息安全”延展到“系统安全”“社会安全”，治理难度随之提升。
原因在于，技术迭代速度与应用扩张速度显著加快，传统治理手段面临适配压力。
其一，模型能力增强带来可用性提升，也降低了技术被滥用的门槛，不法分子可能将其作为自动化、规模化作案工具，风险呈现“手段智能化”特征。
其二，应用场景不断下沉，从办公、娱乐延伸至关键行业，系统链条更长、参与主体更多，数据采集、训练、部署、调用等环节任何一处薄弱都可能形成安全缺口。
其三，部分安全治理仍存在“先上车后补票”的惯性，研发早期未充分嵌入防护机制，导致事后修补成本高、效果不稳定。
其四，公众对算法决策过程、数据使用边界认知不足，透明度与解释性不足容易引发误解甚至抵触，进一步影响技术应用的社会接受度。
影响方面，若风险处置不当，将带来多重连锁效应：对企业而言，安全事件可能导致声誉受损、合规成本上升，抑制创新预期；对行业而言，关键领域一旦发生事故，可能引发“扩散性不信任”，影响智能化升级进程；对社会而言，虚假内容扩散、隐私泄露与不公平算法可能侵蚀公共信任基础，影响社会治理的稳定性与公平性。
更长远看，人工智能安全治理能力也关系到数字经济竞争力与国际合作空间，规则缺位或执行不力都可能带来外部摩擦与制度成本。
对策上，与会专家提出，应构建技术、信任、制度协同发力的治理生态，形成可持续的安全闭环。
首先以技术筑牢底线，把安全能力前置到研发与部署全过程。
要提升模型自身安全性，例如通过对抗训练增强鲁棒性，运用隐私保护技术降低数据泄露风险；同时加快治理技术工具建设，强化算法漏洞检测、深度伪造识别、算法审计评测等能力，推动“可测、可检、可追溯”。
更重要的是突出内生安全理念，把防护机制作为系统设计的必选项，减少事后“打补丁”带来的被动。
其次以信任凝聚共识，把透明与可及作为关键抓手。
人工智能的普及不仅是技术扩散，更是社会信任逐步建立的过程。
应在合规边界内提升算法与数据使用的透明度，完善说明、告知与可解释机制，降低“黑箱”带来的不确定感；同时加强人工智能知识普及和数字素养提升，让公众能够识别风险、合理使用工具，形成社会共治的基础。
对涉及隐私、公平、伦理等敏感议题的场景，还应强化价值对齐与责任落实，避免技术异化。
再次以制度提供秩序保障，推动形成“法律+标准+伦理”相衔接的治理体系。
在法律层面，依托既有网络安全、数据安全等制度框架划清底线红线；在标准与行业自律层面，通过技术标准、评价规范、行为公约等形成可操作、可执行的规则体系，提高治理的细颗粒度与适配性。
治理思路上，分类分级是实现精准监管的重要路径：对自动驾驶、智慧医疗等高风险场景实施更严格的准入、测试验证与持续监管；对低风险应用则适度包容，为创新留出空间。
与此同时，推动跨部门、跨区域协同治理，完善信息共享与联合执法机制，减少监管空白与重复成本；在国际层面加强交流合作，共同应对人工智能安全的全球性挑战。
前景判断上，人工智能治理将更加注重“动态评估”和“敏捷调整”。
随着技术形态与应用边界持续变化，静态规则难以覆盖全部新情况，建立动态风险评估机制、常态化测评与反馈迭代，将成为提升治理效能的重要方向。
行业协会、科研机构与企业的评测实践探索，有助于把抽象原则转化为可量化指标与可落地流程，推动形成“创新—评估—改进—再创新”的良性循环。
未来，治理体系若能在安全底线、创新空间与公众信任之间形成稳定平衡，人工智能将在更多关键领域实现更深度、更稳健的应用。
人工智能技术正以前所未有的速度重塑社会运行方式,安全治理已成为决定技术能否行稳致远的关键因素。
构建技术、信任、制度三位一体的治理生态,既是应对当前风险的现实需要,更是面向未来的战略布局。
唯有在创新与安全之间寻求动态平衡,在包容审慎中完善监管体系,方能让人工智能真正造福人类社会,推动数字文明建设迈上新台阶。