全国政协委员、奇安信科技集团董事长齐向东就“AI超人”的核心问题，认为安全问题是关键。他认为，在发展过程中，不能忽略创新和安全的动态平衡。无论是换脸软件还是银行等单位，用户都对AI保持高度警惕，这是因为人们感到缺乏安全感。Meta公司的AI安全研究员，在试图阻止AI智能体OpenClaw删除邮件时，尝试了3次都没成功，暴露了AI的安全漏洞。这让我们意识到，具身智能体一旦“大脑”混乱或被非法控制，就可能给现实操作带来风险。所以，“HALO”交易近期引发的狂欢，在一定程度上也与AI焦虑有关。 维辰指出，AI发展的核心问题就是安全问题。因为如果不对这个问题进行重视，那么“AI超人”就会朝着错误的方向发展。无论是在信息智能还是物理智能、生物智能领域，能力都存在被滥用的风险。例如不法分子可以利用AI伪造视频实施诈骗，但若视频有明显破绽则欺骗性低很多。所以说能力固然重要，但给这些能力用于何处才是关键。 这次Meta事件给我们敲响了警钟。随着人们向大语言模型咨询问题并依赖它们的建议和信息，“一本正经地胡说八道”的情况也会发生。这种情况下如果出现超级权限和超级能力的智能体犯错，就可能造成直接损失。齐向东强调这是一个长期存在的挑战：创新与安全之间的张力需要平衡。 此外，“HALO”交易在近期引发了狂欢也表明人们对AI技术的焦虑情绪。尽管“AI超人”有许多超越人类的能力但它没有意识和德行可言。而齐向东认为这一切都源自于对创新与安全之间平衡关系的追求。为了让“AI超人”发挥正向作用我们需要推动内外兼修。 因此随着技术水平不断提升我们需要更多关注于提升安全水平而不是仅仅追求技术突破本身因为只有安全才能真正成为推动发展的天花板而非限制其发展的瓶颈之一。