El manual de un CISO para implementar de forma segura la IA agente

Durante el año pasado, casi todas las conversaciones que he tenido con compañeros directores de seguridad de la información (CISO) han girado en torno a la misma tensión:¿cómo llevamos la IA agente a la empresa sin aumentar el riesgo?

Recientemente, el cofundador y director ejecutivo de UiPath, Daniel Dines, escribió que "las empresas quieren la velocidad y la inteligencia de los agentes de IA y la automatización, pero nunca a expensas de la seguridad o el control". Esa observación refleja lo que escucho de los líderes de seguridad de todas las industrias.

La cuestión ya no es si los agentes operarán dentro de nuestras empresas. 2025 respondió a eso. La verdadera pregunta es si las estamos gobernando con el mismo rigor que aplicamos cuando trasladamos cargas de trabajo críticas a la nube.

El punto de inflexión de la autonomía

No hace mucho, nuestros modelos de seguridad asumían que el software seguía instrucciones. Ahora toma decisiones.

En 2025, la IA agente pasó de la experimentación al despliegue operativo. Los sistemas autónomos planifican y ejecutan acciones en entornos empresariales con autoridad delegada.

Para los CISO, este no es otro ciclo de herramientas. Es un cambio estructural en cómo se inicia, autoriza y gobierna la acción digital.

Ya no protegemos aplicaciones estáticas. Estamos asegurando a los actores digitales.

Los modelos de gobernanza están evolucionando, pero la implementación los está superando. Esto crea una brecha de confianza entre la autonomía y la supervisión.

Cerrar esta brecha requiere más que políticas, revisiones periódicas y controles estáticos. Requiere una gobernanza que opere a la misma velocidad, aplicada con el mismo rigor y precisión que hemos aplicado a cada cambio tecnológico importante que le precedió.

El modelo de amenaza ha cambiado

La ciberseguridad tradicional se basaba en cuatro supuestos fundamentales:

• Comportamiento determinista

• Roles y permisos fijos

• Rutas de ejecución predecibles

• Responsabilidad humana en cada nivel de decisión

Los sistemas agentes desafían cada uno de estos supuestos. Ellos:

• Adaptarse en tiempo de ejecución

• Seleccionar herramientas dinámicamente

• Persistir la memoria a través de interacciones

• Tomar decisiones intermedias de forma independiente

Estas capacidades crean valor a través de la compresión del flujo de trabajo, la orquestación entre sistemas y la aceleración operativa.

También redefinen la exposición.

Los equipos de seguridad ahora deben evaluar no sólo a qué puede acceder un sistema, sino también cómo secuencia las acciones, cómo forma la intención y cómo se puede influir en esa intención a lo largo del tiempo.

La inyección rápida se convierte en manipulación de la ejecución. La persistencia de la memoria introduce un riesgo longitudinal. La autoridad delegada concentra el impacto.

Este no es un caso extremo de mala configuración. Es inherente a la propia autonomía. La pregunta de control pasa de "¿Fue apropiado el acceso?" a "¿Se gobernó el camino de decisión?".

La identidad se convierte en la capa de cumplimiento

Cuando un sistema autónomo puede acceder a nuestra gestión de relaciones con el cliente (CRM) u otras plataformas SaaS, modificar la infraestructura o iniciar pagos, debe regirse con el mismo rigor que cualquier operador humano privilegiado.

Todo agente de IA debe:

• Poseer una identidad gobernada única

• Operar bajo privilegio mínimo obligatorio

• Estar sujeto a controles del ciclo de vida de las credenciales

• Genere pistas de auditoría inmutables

• Someterse a un seguimiento continuo del comportamiento

Muchas organizaciones clasifican a los agentes como identidades no humanas. Ese encuadre es útil pero incompleto.

A diferencia de las cuentas de servicio tradicionales, los agentes razonan sobre cómo utilizan sus permisos.

En la era agente, la identidad ya no es simplemente una capa de acceso. Es la capa de aplicación de la autonomía.

Los principios de confianza cero deben extenderse plenamente a los actores digitales con el mismo rigor aplicado en todo el entorno de control empresarial más amplio. Los modelos de aprovisionamiento manual diseñados para la incorporación humana fallarán en una escala autónoma. La gobernanza de la identidad debe volverse dinámica, impulsada por políticas y validada continuamente.

Cuando la autonomía aumenta, la identidad se convierte en infraestructura. Los actores digitales no operan de forma aislada. Operan dentro de flujos de trabajo empresariales interconectados que deben gobernarse de manera unificada.

De los registros a la telemetría cognitiva

La observabilidad tradicional responde a una pregunta retrospectiva:¿qué pasó?

Los sistemas agentes requieren que respondamos una pregunta diferente:¿por qué sucedió?

La gobernanza ahora depende de la visibilidad de:

• Señales de procedencia de decisiones (entradas, restricciones y resultados)

• Secuencias de invocación de herramientas

• Evaluaciones de políticas

• Interacciones de memoria

• Anulación de decisiones

Si no podemos reconstruir cómo se formó la intención y se seleccionaron las acciones, utilizando artefactos de políticas y ejecución observables, la gobernanza se vuelve teórica.

La gobernanza y la seguridad de la IA sin explicabilidad y auditabilidad es fragilidad. Los CISO deben exigir telemetría cognitiva no como evidencia forense después de una falla, sino como una capa de garantía continua que opera junto con la ejecución y es visible en nuestras herramientas de gestión de eventos e información de seguridad (SIEM).

La autonomía al operar a la velocidad de la máquina requiere una supervisión que opere a la velocidad de la máquina.

La revisión humana por sí sola no puede cumplir con ese requisito. Los sistemas autónomos participarán cada vez más en la supervisión de otros sistemas autónomos, haciendo cumplir políticas, validando comportamientos y escalando sólo cuando se superen los umbrales de riesgo predefinidos. La gobernanza se convierte en una capacidad distribuida, no en un punto de control manual.

La gobernanza debe ejecutarse en tiempo de ejecución

Las políticas escritas en la documentación no limitan los sistemas autónomos. Debemos asegurarnos de que la gobernanza funcione en tiempo de ejecución.

Eso requiere:

• Aplicación de políticas previas a la ejecución

• Monitoreo continuo de conformidad (con respecto a las políticas aprobadas)

• Trazabilidad de versiones y modelos

• Umbrales de aprobación explícitos de intervención humana (HITL) para acciones de alto impacto

• Borrar vías de anulación humana

Esto representa un cambio del cumplimiento estático a la supervisión dinámica.

Las juntas y los reguladores están evolucionando en consecuencia. La era de las declaraciones aspiracionales de IA responsable está llegando a su fin. El liderazgo ejecutivo requiere cada vez más entornos de control demostrables respaldados por evidencia.

La gobernanza debe integrarse en los canales de monitoreo, los sistemas de identidad y las capas de orquestación que abarcan múltiples modelos, servicios externos de IA y los diversos componentes propios que generalmente se encuentran en la automatización empresarial.

La gobernanza no puede asumir un modelo único de límites. Debe operar de forma continua y consistente en entornos de modelos heterogéneos, integrándose con los marcos de seguridad y gobernanza existentes en lugar de reemplazarlos.

La garantía se está volviendo no negociable

Los clientes empresariales ya no preguntan si la IA es segura. Están preguntando cómo lo demuestras.

La validación independiente, los sistemas estructurados de gestión de la IA y los marcos de riesgo formalizados están madurando rápidamente. Las expectativas de adquisición están pasando de la velocidad de las funciones a una gobernanza verificable.

La autonomía sin una garantía demostrable se estancará a nivel de la junta directiva. En toda la industria, están comenzando a surgir modelos de madurez estructurados y vías de certificación formales, que traducen los principios de gobernanza en responsabilidad mensurable.

La innovación no implica confianza. Se gana a través de la evidencia.

Un plan para una autonomía segura

Las organizaciones que liderarán en 2026 no son aquellas que implementan la mayor cantidad de agentes de IA. Son ellos quienes los gobiernan deliberadamente. Cinco pilares definen la implementación agente segura:

1. La identidad primero

Cada agente de IA es una identidad gobernada con privilegios mínimos obligatorios y validación continua.

2. Segmentación de herramientas

Los sistemas de alto impacto se encuentran detrás de puertas de enlace de autorización contextual con umbrales de aprobación explícitos.

3. Protección de la memoria

El estado persistente está cifrado, se valida la integridad, se controla el acceso y se puede auditar.

4. Barreras de seguridad en tiempo de ejecución

Las restricciones previas a la ejecución y el monitoreo de anomalías en tiempo de ejecución operan continuamente. En entornos maduros, los agentes supervisores pueden ayudar a hacer cumplir estas barreras, lo que permite una validación continua a escala.

5. Auditabilidad, observabilidad y procedencia de las decisiones

Los sistemas autónomos deben proporcionar registros rastreables de los aportes, evaluaciones de políticas y acciones resultantes, no solo registros de finalización de tareas.

6. Vías de escalada humana

Unos umbrales de gobernanza claros definen cuándo la autonomía da paso a la responsabilidad ejecutiva.

La gobernanza no frena la innovación. Desbloquea la confianza ejecutiva. La confianza acelera la adopción.

El mandato del CISO para 2026

La trayectoria es clara.

• En 2024, la mayoría de las organizaciones estaban experimentando

• En 2025, la autonomía pasará a la producción

• 2026 pondrá a prueba si la gobernanza mantuvo el ritmo

Los adversarios están aprovechando la autonomía para ampliar el reconocimiento y la explotación. Las juntas exigen una supervisión demostrable. Los reguladores están formalizando las expectativas en torno a la gestión de riesgos y el control operativo de la IA.

La brecha de liderazgo no es tecnológica; es la falta de confianza en la madurez de la gobernanza.

Como CISO, nuestro mandato no es resistir ni frenar la transformación. Se trata de convertirlo en componentes fiables de nuestra empresa.

Somos responsables de diseñar los planos de control unificados que permiten a los actores digitales operar de forma segura a la velocidad de la máquina y de garantizar que su autonomía se implemente de forma deliberada, se gobierne de forma transparente, se supervise continuamente y se valide de forma independiente.

La autonomía no elimina la responsabilidad, sino que la amplifica. La próxima era de la seguridad empresarial no estará definida por firewalls o modelos; estará definido por qué tan bien gobernamos la acción autónoma.

Las organizaciones que lideren no serán aquellas que adoptaron primero la IA agente. Serán ellos quienes lo aseguraron, lo gobernaron y lo demostraron.

Y esa responsabilidad recae en nosotros.