Rogelio Schettini
Ciberseguridad, Inteligencia Artificial y Estrategia TRC
Rogelio Schettini
Ciberseguridad ante una IA que ya decide y actúa: ¿Qué pasa si se equivoca?
De responder a ejecutar: La IA ya no pide permiso
Hasta no hace mucho tiempo, cuando hablábamos de Inteligencia Artificial en entornos corporativos, nos referíamos principalmente a un asistente eficiente. La dinámica era sencilla y predecible: una persona formulaba una pregunta, la IA procesaba la información y entregaba una respuesta. En ese flujo, la última palabra y, sobre todo, el botón de «ejecutar» siempre estaban en manos humanas.
Sin embargo, en el último año hemos presenciado un cambio silencioso pero profundo en la arquitectura de nuestros sistemas. Hemos pasado de una IA que responde a una IA que decide y ejecuta.
Hoy en día, las organizaciones están integrando agentes de IA con autonomía operativa. Hablamos de sistemas que leen correos entrantes, redactan y envían respuestas, consultan bases de datos en CRM, gestionan tickets de soporte técnico o ejecutan comandos directamente en la nube. La pregunta crucial que debemos hacernos como responsables de estrategia y ciberseguridad no es solo qué modelos vamos a adoptar, sino:
La IA no pide permiso, ¿pero quién se lo está dando realmente?
El "empleado digital" con accesos legítimos
Cuando analizamos las amenazas tradicionales en ciberseguridad, tendemos a enfocar la mirada en la suplantación de identidad, la brecha de un perímetro o la sustracción de una credencial. El escenario que plantean los agentes de IA es muy distinto: el riesgo ya no empieza necesariamente con una credencial robada, sino con la creación de un «empleado digital» con accesos legítimos.
Este agente tiene un token válido, acceso autorizado al correo corporativo, a la infraestructura de ticketing y a las bases de datos estratégicas. La autorización técnica existe, pero permiso técnico no es lo mismo que capacidad de decisión. Un sistema puede tener permiso para editar un registro, pero eso no significa que sea consciente del impacto de negocio que tiene modificar ese dato en un contexto determinado.
Además, debemos romper con un mito común: no hace falta "hackear" a la Inteligencia Artificial para vulnerarla. Un atacante no necesita romper la criptografía del modelo ni realizar una intrusión compleja en la red; le basta con envenenar aquello en lo que la IA confía. Si manipulamos los prompts de entrada, alteramos los datos de contexto en su memoria o contaminamos las herramientas que utiliza para razonar, la IA tomará una decisión errónea creyendo firmemente que está ejecutando una instrucción legítima.
Mide el Blast Radius antes de ampliar la autonomía
En mis conversaciones con directivos y equipos de TI, suelo enfatizar un concepto fundamental: el radio de impacto (Blast Radius) de la autonomía.
No todas las acciones de una IA conllevan el mismo nivel de exposición. No es lo mismo un modelo que se limita a leer o recomendar, que uno que tiene capacidad para modificar, comunicar o ejecutar procesos de manera desatendida.
[ LEER ] ➔ [ RECOMENDAR ] ➔ [ MODIFICAR ] ➔ [ COMUNICAR ] ➔ [ EJECUTAR ]
--------------------------------------------------->
AUMENTO PROGRESIVO DEL IMPACTO POTENCIAL (BLAST RADIUS)
La ecuación que debemos aplicar en nuestras infraestructuras es indiscutible:
Si incrementamos la autonomía ejecutiva de un agente digital y el impacto de un hipotético error es elevado, la capa de visibilidad, auditoría y control técnico debe multiplicarse en la misma proporción.
El checklist que deberías llevarte mañana a la oficina
Para gobernar este nuevo ecosistema sin frenar la innovación ni la eficiencia que nos brinda la tecnología, en TRC sugerimos someter a cualquier iniciativa de IA autónoma a un filtro previo de cinco preguntas esenciales:
- Identidad: ¿Quién es exactamente este agente digital dentro de nuestra red y cómo está registrado?
- Privilegios: ¿A qué información y herramientas puede acceder, y responden al principio de mínimo privilegio?
- Autonomía: ¿Qué decisiones concretas puede tomar sin supervisión humana directa?
- Control: ¿Existe una persona o un mecanismo automático capaz de detener su ejecución en tiempo real si algo sale mal?
- Impacto: ¿Qué ocurre si se equivoca? ¿Cuál es la máxima consecuencia técnica, económica o reputacional que tendría una acción incorrecta?
La Inteligencia Artificial está redefiniendo la productividad a pasos agigantados, y no se trata de ponerle frenos ni de adoptar una postura defensiva basada en el miedo. Se trata de madurez técnica y estratégica.
Antes de evaluar cuál es el modelo más rápido, la ventana de contexto más amplia o el algoritmo más innovador para tu negocio, la primera pregunta que debes poner sobre la mesa con tu equipo es: ¿Qué pasa si se equivoca y hasta dónde llega el impacto de su decisión?
Rogelio Schettini
Experto en Ciberseguridad, Inteligencia Artificial, Estrategia en TRC