全国两会聚焦人工智能发展新方向:以人为本、安全可控成核心共识

问题——人工智能正加速进入生产生活,在提升效率的同时,也带来新的矛盾:一是应用边界不够清晰,部分场景出现对技术的过度依赖甚至替代,削弱独立判断与专业责任;二是数据、算法和模型快速迭代,隐私泄露、内容失真、算法歧视等风险随之扩散;三是智能化深入工业、医疗、交通等关键领域,一旦系统性失灵或被恶意利用,可能冲击公共安全和产业链稳定。如何在“快速发展”与“可控使用”之间建立制度化平衡,已成为必须回答的现实课题。 原因——回顾工业文明演进,每一次技术跃迁都会重塑人与工具的关系。蒸汽机、电气化、信息化主要扩展人的体力与感官,而人工智能更直接进入认知与决策环节,影响更深、传播更快、外部性更强。同时,我国人工智能产业规模持续扩大,应用从试点走向规模化落地,数据要素流通加快、算力设施加密布局、模型能力提升明显,治理复杂度随之上升。国际竞争也在加剧,规则制定、标准话语权、供应链安全等因素交织,使“发展与安全并重”成为必然选择。 影响——坚持“为人所用”,关键是明确技术仍是工具:无论能力多强,都应服务人的目标而非反客为主。这要求在研发、部署与评估中,把“人的获得感与创造力释放”作为重要尺度,推动智能制造、辅助诊断、智慧教育等应用更好解放生产力、改善公共服务。坚持“为人服务”,强调价值导向:不仅看算法精度与效率,也重视公平、可解释与人文关怀,避免将复杂社会问题简单“技术化”。坚持“为人所控”,体现底线思维与系统治理:在关键行业、重点场景、重要数据与核心模型上建立可审计、可追责、可回滚的管理链条,把风险防控前移,避免“小概率事件”演变为“大范围冲击”。三者共同指向以人为本的新型工业化路径,有助于稳定社会预期、增强产业韧性,并形成参与国际竞争的制度优势。 对策——一要以需求牵引应用,推动“好用、管用、耐用”。围绕制造业转型升级、公共服务提质增效、科研范式创新等重点领域,在可控前提下扩大试点,形成可复制、可推广的解决方案。二要以规则塑造生态,完善全链条治理。推进数据分类分级和安全合规,强化训练数据来源合法、标注规范与隐私保护;完善模型评测、内容标识、风险分级与应急处置机制,提升可解释性与可审计性。三要以责任压实边界,明确“人对结果负责”。在医疗、司法、金融风控、工业安全等领域,推动形成“技术辅助、专业把关、责任可追”的流程,防止责任虚化。四要以创新筑牢底座,提升自主可控能力。加强关键软硬件、基础算法、工业软件与安全技术攻关,健全标准体系和人才培养体系,推动算力、数据、场景、资本协同发力。五要以国际视野参与治理,加强标准互认与风险共治,在开放合作中提升规则塑造能力。 前景——面向未来,人工智能将更多走向“深度嵌入式”应用:从单一任务工具升级为跨流程协同的生产力系统。把“为人所用、为人服务、为人所控”落实到制度供给与产业实践中,有助于在创新加速度与安全确定性之间形成动态平衡,让技术进步更稳定转化为经济增长动能和民生改善成果。随着治理体系健全、产业底座持续夯实、应用场景加快拓展,我国有望在新一轮产业变革中形成更具韧性与包容性的智能化发展格局。