计算、电话
12.11.2026 14:45
作者:彼得·塞布伦

与他人分享:

分享

企业正在大规模招聘人工智能代理,但大多数企业不知道如何及时阻止它们。

企业正在大规模招聘人工智能代理,但大多数企业不知道如何及时阻止它们。

企业越来越多地将任务委托给自主人工智能代理,但在监控方面却远远落后。Gravitee 的一项调查揭示了一个令人担忧的现状:仅有 6% 的受访技术领导者能够在 1 小时内拒绝有问题的 AI 代理访问所有信息系统。

这项针对美国和英国900位顶尖技术专业人士的调查发现,只有不到十分之一的组织机构设有正式负责人来监管人工智能代理的行为。更令人震惊的是,平均而言,只有51%的人工智能代理制定了规则来真正限制其行为。

后果不再仅仅是理论上的。超过半数的受访者在过去一年中至少经历过一次与人工智能代理相关的安全事件。已报告的案例包括登录凭证、内部价格表和客户联系信息泄露。一些代理甚至将敏感数据共享给了组织外部。

在确定责任方面,问题依然存在。只有八分之一的受访者能够完全还原某个代理人30天前的行为及其权限。

Gravitee 首席执行官 Rory Blundell 警告说,越来越多的公司允许代理人在没有建立充分监督机制的情况下自行决策。他认为,解决方案在于明确识别每位代理人,限制其权限并记录其活动。

人工智能正在获得越来越大的能力,但企业往往仍然无法回答最基本的问题:当出现问题时,谁来阻止它。


对这个主题的更多内容感兴趣吗?
信息安全 网络安全 人工智能


其他人在读什么?