北京市通州区人民法院最近也在审理案子的时候发现,律师提交的法律文书里竟然引用了人工智能编出来的虚假司法案例。这两件事儿虽然一个是出书,一个是写法律文书,性质不太一样,但都说明一个很严重的问题:人工智能弄出来的东西,正悄悄地不声不响地闯进了纸质书还有正式文书的圈子。这些东西虽然看着挺新,速度也快,可毛病也不少,比如信息不准、瞎编乱造啥的。一旦它们被装进了书里,因为是印在纸上的,大家往往就觉得它们肯定是对的,放松了警惕。在那些讲究真凭实据的地方,像学术著作或者法律文件,这种内容掺进来很容易让人对学问的传播没了信心。 出版社那边把书给印出来的时候,审核流程其实没跟上新技术的步子。以前出版社主要看政治方向对不对、文章写得好不好,根本不管这图或者这文章到底是机器还是人做的。要是有个作者在投稿的时候没说清楚图是从哪来的,出版社也没看出来是机器画的,那质量肯定就没保障了。这就逼着出版行业赶紧改规矩,以后不管是在发稿的时候还是审核的时候,都得把机器生成的内容标出来检查一下。 当然啦,机器做的东西也不一定就是坏的。只要用对地方、说清楚了、还有人好好把关,它也能帮人写文章提效率。关键的地方就在于得透明点、把责任分清楚。大家看文章都有权知道这东西是从哪来的、咋做的,这才是保护咱们知情权的基础。出版社得当好守门员,搞清楚每句话是谁写的、是谁改的;一旦出了事谁负责得看情况,不能光赖作者或者技术方。 从法律上来说,这事儿也挺麻烦的。要是因为看了书里的假信息害了人或者耽误了官司咋办?现在的法律条文在这块儿还说得不太清楚。法院和监管部门得提前研究研究这些案例,把大家的权利义务定下来。 往大了看这也是公众对新技术不熟悉闹的。以前大家觉得书里的话都特别靠谱是实话;现在的机器虽然也能写文章做图,但大家还当它是个虚拟的工具。其实技术早就打破了墙;任何一种载体都可能混进去一堆乱七八糟的东西。咱们得提高自己的本事;学会分辨这些真假消息;这样才能让整个网络环境健康一点。 现在的技术浪潮是挡不住的;它跟出版业肯定是要往一块儿凑的。这次出事不光是个案;更是个信号;说明行业得转型了;得有一套新规矩来管管它。只要大家一起努力;把技术进步和保证质量当成一回事来做;才能守住底线;让机器真正变成传播知识的好帮手;而不是让人不放心的祸根。