Las empresas están empleando masivamente agentes de IA, pero la mayoría no sabe cómo detenerlos a tiempo.
Las empresas confían cada vez más tareas a los agentes de IA autónomos, pero su supervisión es deficiente. Una encuesta de Gravitee revela una situación preocupante: solo el seis por ciento de los líderes tecnológicos encuestados pudo impedir que un agente de IA problemático accediera a todos los sistemas de información en el plazo de una hora.
La encuesta, que consultó a 900 destacados profesionales de la tecnología de EE. UU. y el Reino Unido, reveló que menos de una décima parte de las organizaciones cuenta con una persona formal responsable de la conducta de los agentes de IA. Aún más sorprendente es que, en promedio, solo el 51 % de los agentes de IA tienen reglas establecidas que limitan sus acciones permitidas.
Las consecuencias ya no son solo teóricas. Más de la mitad de los encuestados han sufrido al menos un incidente de seguridad relacionado con agentes de IA en el último año. Entre los casos reportados se incluyen la divulgación de credenciales de inicio de sesión, listas de precios internas e información de contacto de clientes. Algunos agentes incluso han compartido datos confidenciales fuera de la organización.
El problema persiste a la hora de determinar la responsabilidad. Solo uno de cada ocho encuestados pudo reconstruir completamente qué hacía un agente en particular hace 30 días y con qué autoridad.
Rory Blundell, CEO de Gravitee, advierte que las empresas permiten cada vez más que los agentes tomen sus propias decisiones sin implementar mecanismos de supervisión adecuados. Considera que la solución reside en identificar claramente a cada agente, limitar sus derechos y registrar sus actividades.
La inteligencia artificial está adquiriendo cada vez más poder, pero las empresas a menudo siguen sin tener respuesta a la pregunta más básica: ¿quién la detendrá cuando algo salga mal?





















