ServiceNow (NYSE: NOW), la torre de control de superinteligencia para la reinvención empresarial advirtió hoy que la exposición a la IA agéntica sin gobernanza se está acumulando dentro de las empresas, según una nueva investigación global realizada entre altos responsables de seguridad.
La advertencia llega cuando los agentes de IA están dejando atrás las pruebas piloto para incorporarse a los sistemas que hacen funcionar hospitales, aeropuertos, plantas de producción, instituciones financieras y otros entornos, donde una sola acción sin supervisión puede tener consecuencias devastadoras para la sociedad.
Nueve de cada diez organizaciones de todo el mundo ya han sufrido un incidente de seguridad relacionado con la IA agéntica durante el último año, y solo el 36 % de esas empresas logró contenerlo en menos de 24 horas.
“Los incidentes relacionados con agentes de IA que han ocupado titulares este año son una advertencia de lo que puede suceder cuando se despliega la IA sin los controles adecuados”, afirmó Ben de Bont, director de Seguridad de la Información (CISO) de ServiceNow.
“Las organizaciones no deberían tener que elegir entre avanzar rápido y gestionar el riesgo. Las que lo hagan bien incorporarán la gobernanza desde el inicio en la forma en que despliegan los agentes, para aprovechar los beneficios de la IA sin perder visibilidad ni control”.
Dentro del caos de la IA: principales hallazgos de la investigación
Según el estudio Desplegada, pero sin gobernanza: el estado de la seguridad agéntica, aunque muchos responsables de seguridad consideran que han establecido una postura de seguridad para la IA agéntica, solo el 13 % cuenta con programas defendibles al evaluarlos en cinco ámbitos clave: superficie de ataque, rendición de cuentas, seguridad desde el diseño, visibilidad y preparación para auditorías.
En la actualidad, la mayor parte de la IA agéntica se rige por marcos heredados y sistemas que dependen de la intervención humana. Menos de la mitad de las organizaciones utiliza marcos de gobernanza que abarquen elementos clave del despliegue de agentes de IA.
A escala global, solo el 44 % de los equipos de seguridad incorpora la seguridad al desarrollo de un agente antes de crearlo. Esto significa que, en la mayoría de los casos, los permisos y las salvaguardias se implementan de forma improvisada y a posteriori. Es un enfoque reactivo por definición.
La escala y los puntos ciegos aumentan la exposición de las organizaciones
- El 49 % de las organizaciones utiliza actualmente entre 100 y 999 agentes de IA mientras que el El 35 % utiliza más de 1.000.
- El 57 % de los equipos de seguridad dispone de un registro completo y preciso de todos los agentes de IA en producción y cuenta con procesos para hacer seguimiento de los cambios.
- El 29 % de los equipos de seguridad encontró agentes de IA en producción que nunca habían sido registrados y cuya existencia se desconocía. Lo que pasa inadvertido puede salir a la luz más adelante como IA en la sombra, descubierta solo después de haber estado funcionando sin supervisión.
Los riesgos que avanzan a la velocidad de las máquinas superan la capacidad de respuesta humana.
- El 76 % de las organizaciones afirma mantener un mapa completo y actualizado de los accesos de cada agente, pero solo el 19 % puede observar en tiempo real a más del 90 % de sus agentes.
- Incluso las organizaciones que pueden detectar un problema a menudo no logran detenerlo con suficiente rapidez. Dos tercios (66 %) no pueden actuar automáticamente cuando un agente presenta un comportamiento anómalo, lo que significa que una persona aún debe intervenir para que algo cambie.
Cerrar la brecha para recuperar el control
La oferta Autonomous Security de ServiceNow ayuda a las empresas a pasar de una seguridad reactiva y fragmentada a una seguridad gobernada de forma autónoma, centrada en la prevención y capaz de actuar más rápido de lo que la IA genera riesgos.
Bajo el principio Shift Zero, ServiceNow apoya a las organizaciones para que se acerquen lo máximo posible a una exposición nula en todo momento. Así, las empresas pueden responder, con pruebas, qué están haciendo los sistemas, por qué y quién o qué es responsable, mientras la IA avanza al ritmo que necesita el negocio.
Esto incluye las reglas y salvaguardias necesarias para adoptar de forma segura la IA agéntica, entre ellas un mecanismo de desactivación inmediata (kill switch) y AI Passport.
“La innovación y la seguridad deben avanzar juntas, no una después de la otra”, afirmó Nadir Izrael, vicepresidente de grupo de Ciberseguridad y Riesgo de ServiceNow. “Para eso se crearon Autonomous Security y Shift Zero: para incorporar la gobernanza en el momento en que se crea o despliega un agente, no añadirla después. Una seguridad que opera a la velocidad de las máquinas deja de ser un freno para la adopción de la IA y se convierte en lo que permite ampliarla de forma segura”