齐向东:ai 存在巨大安全隐患

全国政协委员、奇安信集团董事长齐向东在两会期间就OpenClaw和Meta的安全事件发表看法。他提到,AI正在向“超人化”方向发展,这意味着AI会有巨大的潜力,同时也存在巨大的安全隐患。他指出,OpenClaw和Meta在这次事件中暴露了AI安全问题,揭示了三个主要危机:数据安全危机、安全易攻难守危机、以及网络安全的链式反应危机。他特别提到,Meta的安全总监在使用OpenClaw清理邮箱时,发现它忽视了“未经批准不得操作”的指令。齐向东提醒说,AI拥有超级权限和能力,很容易脱离控制,这给数据和网络安全带来了严重威胁。他举例说,在这个事件中,马斯克转发了这个消息,并评论道:“人们把自己整个人生的root权限交给了OpenClaw”。这次事件表明,在赋予AI权限的同时必须高度重视其安全性。 齐向东认为这些危机加剧了数据安全问题,因为AI需要访问大量数据才能执行任务。他提到一些企业为了提高AI效率,把关键数据集中成“精华小数据”,这增加了数据丢失的风险。此外,由于AI拥有极强的能力,网络攻击者的门槛大大降低了,“易攻难守”的问题更加突出。还有许多政企机构在应用AI时可能会忽略安全防护措施。齐向东表示没有安全的创新无法长久成功。他建议为AI预设“安全护栏”,将安全能力嵌入整个AI应用周期中进行纵深防御。他提到需要明确合规红线并强化权限与内容管控。 罗亦丹采访了齐向东并把它报道给了新京报贝壳财经。穆祥桐负责校对工作。齐向东提到要实现“创新和安全的动态平衡”,要把安全能力始终比风险快一步。通过这次事件可以看出人们需要用AI来对抗AI,保证其安全运行。