2024年，江西南昌警方查获了一家MCN机构利用AI批量造谣的案件，这家机构一天最多能炮制出4000到7000篇假文章，通过800多个账号在网上传播。这个事件反映了当前互联网上存在的严重问题，很多人通过给AI灌输虚假信息来污染公共数据，导致大家看到的内容真假难辨。尽管这是技术发展初期必经的过程，但对于认知能力还比较弱的小学生来说，这种污染带来的危害特别大。因此，2025年版的《中小学生成式人工智能使用指南》就把禁止小学生独自使用开放式内容生成功能列为首要规定。 教育部门之所以出这个禁令，主要是考虑到现在的AI生成内容质量参差不齐，经常会有胡编乱造甚至杜撰法律条文的情况发生。成年人还能用经验去分辨，但小学生根本没有这种能力，很容易被误导。指南还特别提到教师不能把AI当作替代教学的主体，这说明教育部门不光是为了防止学生抄作业作弊，更是想保护孩子的独立思考能力不被削弱。 这次发布的文件是由教育部基础教育教学指导委员会制定的。它其实是为了回应社会上的一个热点话题，因为现在大家都在用AI来提升工作效率或者解决学习难题。面对这种情况，光靠个人判断已经不够了，必须要有官方的指导意见来规范使用行为。这个指南不仅是给学生看的，更是给所有提供这类服务的公司提了个醒。 从长远来看，这个规定也给行业提出了新的要求。之前的《互联网信息服务深度合成管理规定》就提到过要对AI生成的内容进行标识。现在需要包括技术研发者和使用者在内的所有人共同努力，尽快让生成式AI变得更智能，减少“AI污染”，让信息更容易被辨认出来。