(问题)生成式人工智能正快速进入研发、客服、营销、人力资源等业务环节,成为企业提升效率的重要工具。但落地过程中,不少企业仍停留在“各自为战”的试用阶段:员工使用通用工具处理文档、代码和客户信息,虽然提高了效率,也带来数据外流、合规风险、误操作损失,以及投入产出难以评估等新问题。尤其在涉及客户隐私、商业机密和知识产权的场景,一旦发生越权访问或敏感信息被不当上传,影响往往会扩散,且难以挽回。 (原因)业内人士认为,风险集中暴露主要与三上因素有关:一是通用工具多为个人用户设计,缺少企业级权限体系、审计能力和合规策略,难以满足企业分级管理要求;二是“技能”“插件”等生态扩张迅速、来源复杂,如缺少准入审查与隔离机制,恶意指令、木马代码等可能通过自动化链路进入生产环境;三是生成式模型调用成本与用量、任务复杂度高度有关,若缺乏统一计量、预算与策略控制,容易出现费用波动大、内部结算难、ROI难核算等问题,增加管理不确定性。 (影响)上述问题不仅影响企业对新技术的信心,也一定程度上拖慢规模化部署:其一,安全与合规压力使企业在关键数据场景更趋保守,出现“能用但不敢用”;其二,组织内多套工具并行,知识库、流程与权限相互割裂,形成新的信息孤岛;其三,成本不透明导致部门间难以形成统一的投入产出评价体系,影响从试点走向全面推广的节奏。对平台侧而言,这也意味着企业市场的竞争正在从“模型能力”转向“治理能力与工程化落地能力”。 (对策)因此,阿里巴巴发布“悟空”,并将其定位为企业级AI原生工作平台,核心思路是以统一底座把AI能力纳入企业治理框架,实现“可用、可管、可控、可算”。据介绍,平台围绕企业最关注的安全与管理问题,设计了多层机制:一是基于企业既有权限规则,将数据访问、操作范围与角色权限绑定,降低越权调用风险;二是通过隔离执行环境为任务提供安全防护,减少外部代码或异常行为对内网系统的影响;三是支持专属模型与专属技能体系,便于企业结合行业知识与业务流程进行定制,并对能力来源与调用链路进行审查与追踪;四是强化用量可视化与成本透明,帮助企业开展预算管理、精细化运营与效益评估。业内认为,这类平台路径有助于将分散的“个人效率工具”升级为可纳入制度与流程的“组织生产力工具”,也为企业建立统一审计、合规与安全响应提供支撑。 (前景)从趋势看,企业智能化正从“助手式应用”走向“智能体驱动的流程再造”。随着智能体具备跨系统调用、自动执行与闭环反馈能力,未来效率提升将更多来自工作流层面的重构,而非单点功能叠加。若平台能在底层提供统一的权限、数据、接口与审计体系,上层再以标准化方式编排任务与工具,有望推动AI从“辅助写作、辅助检索”迈向“面向业务目标的自动化执行”。同时,监管与行业合规要求日益清晰,企业对“可解释、可追溯、可边界控制”的需求将持续增强,安全治理能力预计将成为企业选择平台的重要标准。受访人士表示,下一阶段的竞争焦点可能集中在三上:关键数据的安全使用能力、跨系统工作流的编排能力,以及成本与收益的量化管理能力。
企业智能化进入深水区,关键不在于“用不用”,而在于“如何用得更安全、更可控、更高效”;通过平台化方式统一权限、审计、成本与流程,把智能能力纳入组织治理体系,既是对技术风险的主动应对,也将成为推动数字化转型走向高质量发展的重要路径。