为了确保人工智能在河南的高质量发展,我们必须打造一个全链条的安全治理体系。这是一项涉及政府、企业、科研机构还有公众多方力量的复杂工程。代表委员们建议,要把安全的理念深度融入到技术创新和产业应用的每一个环节中去。 以人工智能为代表的新一轮科技革命,正在改变我们的经济和社会发展模式。政府工作报告也提到了要深化拓展“人工智能+”行动。河南在人工智能产业发展上取得了很大进展,技术研发、产业配套、场景落地还有生态建设方面都有显著的进步。 但是,在享受科技带来便利的同时,风险也随之而来。数据泄露、算法偏见、“深度伪造”等问题都给国家安全、社会秩序和公民权益带来威胁。这些风险隐藏在模型开发、训练、部署应用和退役的全过程中,传统治理手段难以应对。 省政协委员、郑州师范学院副校长范红娟通过深入调研指出,必须在推动应用的同时,未雨绸缪地构建AI全链条安全治理体系。这个体系要涵盖主动监测、精准预警、高效响应和协同治理等方面。 范红娟委员给出了四个关键建议:首先是强化顶层设计和制度供给;其次是建设集中统一的监测评估平台;再者是健全跨部门协同应急响应体系;最后是夯实人才根基培养专业力量。 对于顶层设计方面,她建议加强宏观规划和统筹协调,制定风险分级分类管理制度。比如尽快出台符合本省实际的《人工智能应用风险分级目录》,给不同风险场景提供清晰的管理指引。 建设监测评估平台方面,她提议搭建省级统一平台来备案管理关键AI模型并进行常态化评估测试。这样可以提升技术透明度并及时发现问题。 对于应急响应体系,她建议多部门共同参与组建“人工智能安全应急联合体”,定期组织演练来提升快速发现、联合研判和协同处置能力。 人才培养方面,她建议高校开设相关专业课程方向培养复合型人才;还要推动高校与企业研究机构共建实训基地促进产学研用融合。 只有前瞻布局、系统施策才能有效驾驭技术红利防范化解重大风险。只有确保了人工智能的安全可信才能真正赋能美好生活助力中国式现代化建设。