La inteligencia artificial ya no solo responde preguntas: empieza a ejecutar decisiones dentro de la empresa. Ese cambio puede elevar la productividad, pero también transforma un error, una instrucción manipulada o un permiso excesivo en una acción real sobre datos y clientes. El problema empresarial no es que existan agentes autónomos; es que muchas organizaciones están delegando capacidad de actuar antes de definir quién autoriza, hasta dónde puede llegar cada agente, qué evidencia debe dejar y cómo detenerlo cuando algo sale mal. En ciberseguridad, ese vacío de gobierno puede ser más peligroso que cualquier herramienta mal configurada. Por eso, la conversación sobre IA agéntica debe salir del laboratorio tecnológico y llegar a la dirección, al gobierno y a la gestión del riesgo. La pregunta decisiva ya no es qué puede hacer la inteligencia artificial, sino qué estamos dispuestos a permitirle hacer en nombre de nuestra organización. 👉 LEE NUESTRO BLOG...
Durante años nos acostumbramos a pensar la seguridad informática alrededor de personas, equipos, aplicaciones, servidores, redes y credenciales. Un usuario ingresaba al sistema, una aplicación solicitaba información y unas reglas determinaban qué podía o no podía hacerse.
La inteligencia artificial agéntica altera silenciosamente ese modelo.
Un agente de inteligencia artificial puede recibir un objetivo, interpretar información, seleccionar herramientas, interactuar con distintos sistemas, tomar decisiones intermedias y ejecutar acciones sin que una persona tenga que aprobar cada paso.
En términos empresariales, esto significa algo mucho más importante que disponer de una nueva tecnología: estamos creando una nueva clase de participante dentro de la organización.
No es empleado.
No es simplemente software.
Tampoco es únicamente una automatización tradicional.
Es una capacidad digital que puede observar, decidir y actuar.
Microsoft define actualmente la IA agéntica aplicada a ciberseguridad como el uso de agentes autónomos capaces de detectar, investigar y responder a amenazas con una intervención humana mínima.
Y precisamente allí aparece una cuestión que considero fundamental para los empresarios y directivos: cuando una tecnología adquiere capacidad de actuar, la discusión deja de ser exclusivamente tecnológica.
Se convierte en una discusión sobre autoridad.
Quién puede hacer qué.
En nombre de quién.
Con cuáles límites.
Sobre cuáles sistemas.
Utilizando cuáles datos.
Y bajo qué responsabilidad.
Ese es, en mi criterio, el verdadero desafío que muchas organizaciones todavía no están viendo.
La amenaza no comienza cuando un agente de IA es atacado.
Puede comenzar mucho antes: cuando lo conectamos a procesos empresariales sin haber diseñado previamente una arquitectura de control.
Imagine un agente autorizado para revisar correos electrónicos, consultar bases de datos, modificar registros de clientes, interactuar con un CRM, generar documentos, ejecutar procesos internos o acceder a plataformas externas.
Por separado, cada permiso puede parecer razonable.
Combinados, esos permisos pueden crear una capacidad operativa extraordinaria.
Y también un riesgo extraordinario.
La seguridad tradicional suele preguntarse quién tiene acceso.
La seguridad en entornos agénticos debe formular una pregunta adicional:
¿Qué puede llegar a hacer esa identidad después de obtener acceso?
Esa diferencia parece pequeña, pero cambia profundamente el análisis empresarial.
Un usuario comprometido puede ser peligroso.
Un agente comprometido o manipulado puede amplificar ese peligro porque puede operar con velocidad, continuidad y acceso simultáneo a diferentes recursos.
La publicación que inspira esta reflexión advierte precisamente sobre esa transformación: comprometer un agente ya no significa solamente obtener información, sino adquirir capacidad de actuar dentro de un sistema.
Pero aquí debemos evitar un error frecuente.
La respuesta no consiste simplemente en comprar otra herramienta de ciberseguridad.
Nunca la tecnología por la tecnología en sí misma; sino la tecnología por la funcionalidad.
Antes de proteger agentes debemos comprender qué función empresarial realizan, qué decisiones pueden tomar, qué consecuencias tendría una equivocación y qué nivel de autonomía realmente necesitan.
Porque autonomía sin arquitectura termina convirtiéndose en exposición.
Cuando un permiso tecnológico se convierte en una delegación empresarial
En administración sabemos desde hace décadas que delegar no significa abandonar el control.
Cuando un empresario entrega autoridad a un gerente, establece responsabilidades, límites, procedimientos, indicadores y mecanismos de supervisión.
No tendría sentido decirle:
“Puede acceder a todos los recursos de la organización, tomar cualquier decisión y después veremos qué ocurrió”.
Sin embargo, algo parecido puede suceder cuando incorporamos inteligencia artificial sin una estructura adecuada.
Otorgamos acceso al correo.
Luego al almacenamiento.
Después al CRM.
Más adelante al ERP.
Posteriormente a herramientas financieras, recursos humanos, atención al cliente o infraestructura tecnológica.
Cada integración resuelve una necesidad aparentemente independiente.
Pero la suma termina construyendo una identidad digital con un poder que posiblemente ningún empleado individual posee.
Ese fenómeno obliga a las empresas a revisar la manera como administran privilegios.
El principio debería ser sencillo: ningún agente necesita acceso ilimitado para ser útil.
Necesita únicamente la autorización indispensable para cumplir su propósito.
Y esa autorización debería tener contexto, duración, trazabilidad y mecanismos de revocación.
No basta con saber que “el agente tiene acceso”.
Debemos conocer qué datos puede consultar, cuáles puede modificar, qué herramientas puede activar, qué decisiones requieren aprobación humana y cuáles puede ejecutar automáticamente.
Si su empresa ya está utilizando inteligencia artificial conectada a procesos, sistemas o información sensible, conviene revisar esa arquitectura antes de ampliar la automatización. Una conversación consultiva puede ayudarle a identificar dónde existe autonomía sin suficiente control y cómo corregirla sin frenar la innovación:
https://t.mtrbio.com/todo-en-unonet
El nuevo perímetro ya no está solamente alrededor de las personas
Durante mucho tiempo el concepto de identidad digital estuvo relacionado principalmente con usuarios humanos.
Nombre de usuario.
Contraseña.
Autenticación multifactor.
Roles.
Permisos.
Hoy debemos ampliar esa visión.
Los agentes también tienen identidad operativa.
Pueden utilizar credenciales, tokens, interfaces de programación, cuentas de servicio, conectores y permisos delegados.
Por eso cada agente debería tratarse como una identidad independiente y gobernada.
No como una extensión invisible del usuario.
Este punto será cada vez más importante porque las empresas probablemente no operarán con un solo agente.
Tendrán decenas.
Después cientos.
Algunos especializados en ventas.
Otros en operaciones.
Otros en análisis.
Otros en servicio al cliente.
Otros en seguridad.
Y posiblemente agentes coordinando otros agentes.
Computer Weekly señala que la expansión de estos sistemas introduce la necesidad de proteger lo que denomina identidades algorítmicas, estableciendo privilegios, trazabilidad y controles sobre su comportamiento.
Desde la perspectiva empresarial, esto significa que las organizaciones deberán construir algo equivalente a un organigrama digital.
No necesariamente visible como el organigrama humano, pero sí gobernado con la misma seriedad.
¿Qué agente existe?
¿Quién es su propietario?
¿Cuál es su objetivo?
¿A qué información accede?
¿Qué sistemas utiliza?
¿Qué otros agentes puede activar?
¿Qué acciones puede ejecutar?
¿Qué persona responde por su funcionamiento?
¿Cuándo debe retirarse?
Parece administración tradicional.
Y precisamente ese es el punto.
Las nuevas tecnologías continúan necesitando buenos principios de administración.
El riesgo más peligroso puede parecer una instrucción legítima
Existe otra característica que diferencia a los agentes inteligentes de muchas tecnologías anteriores.
Trabajan con lenguaje.
Interpretan instrucciones.
Procesan documentos.
Leen correos.
Consultan páginas.
Analizan información generada por otras personas o sistemas.
Eso significa que información aparentemente ordinaria puede convertirse en una vía de manipulación.
Una instrucción maliciosa insertada dentro de un documento, una página web, un correo electrónico o una fuente consultada por un agente podría intentar alterar su comportamiento.
Este tipo de amenaza suele relacionarse con técnicas de prompt injection.
Para el empresario no es necesario dominar la terminología técnica.
Lo importante es comprender el principio:
un agente puede encontrar instrucciones dentro de la información que procesa y debe existir una arquitectura capaz de diferenciar información de autoridad.
No todo lo que un agente lee debe convertirse en algo que pueda obedecer.
Ese criterio será fundamental.
Porque si la empresa diseña sistemas donde cualquier contenido externo puede influir sobre acciones internas, habrá construido una organización donde leer y obedecer empiezan a confundirse.
Y ninguna empresa seria funcionaría así con sus colaboradores humanos.
Velocidad contra velocidad
La IA también está modificando otro elemento de la ciberseguridad: el tiempo.
Los atacantes pueden automatizar reconocimiento, análisis, generación de contenido malicioso y búsqueda de vulnerabilidades.
Los defensores, por su parte, empiezan a utilizar agentes capaces de analizar señales, investigar eventos y responder con mayor rapidez.
Microsoft planteó recientemente que los sistemas de seguridad de nueva generación necesitarán percibir riesgos, razonar sobre grandes cantidades de contexto y actuar a velocidad de máquina, precisamente porque los ataques asistidos por IA pueden operar a escalas difíciles de enfrentar únicamente mediante intervención humana.
Esto no significa eliminar a las personas.
Significa ubicar mejor a las personas.
El analista humano no debería gastar su jornada revisando miles de señales repetitivas que una máquina puede correlacionar en segundos.
Su valor está en interpretar contexto, establecer prioridades, evaluar consecuencias y tomar decisiones donde intervienen riesgo empresarial, ética, reputación y estrategia.
La IA puede acelerar la respuesta.
El gobierno debe determinar cuándo esa respuesta puede ser automática.
Por ejemplo, bloquear temporalmente una dirección sospechosa puede admitir automatización.
Eliminar información crítica, suspender cuentas estratégicas, modificar permisos generales o aislar infraestructura sensible posiblemente debería requerir controles adicionales.
No existe una regla universal.
Depende de la empresa, del proceso y del impacto.
Por eso la pregunta correcta nunca será:
“¿Podemos automatizarlo?”
Debe ser:
“¿Con qué nivel de autonomía es razonable automatizarlo?”
La empresa debe diseñar límites antes de diseñar agentes
Muchas iniciativas tecnológicas empiezan al revés.
Primero se prueba la herramienta.
Después se encuentra una utilidad.
Luego se conecta a los sistemas.
Finalmente, cuando aparece algún problema, comienzan las preguntas de gobierno.
Con la IA agéntica ese orden puede resultar especialmente peligroso.
La organización debería definir primero la función.
Después los límites.
Luego los datos.
Posteriormente los permisos.
Y solamente entonces la tecnología.
Esa secuencia permite evitar agentes técnicamente impresionantes pero organizacionalmente incontrolables.
En TODO EN UNO.NET entendemos este tipo de desafío desde una Arquitectura Tecnológica Funcional (ATF): la tecnología debe quedar subordinada al propósito empresarial, a los procesos, a la continuidad operacional, a la seguridad y a la capacidad real de gobierno.
No queremos organizaciones llenas de herramientas inteligentes.
Queremos organizaciones capaces de utilizar inteligencia sin perder control.
Si está evaluando agentes de IA, automatizaciones avanzadas o soluciones capaces de actuar directamente sobre sus sistemas, puede ser útil analizar previamente permisos, identidades, procesos críticos, exposición de datos y mecanismos de supervisión:
https://t.mtrbio.com/todo-en-unonet
La trazabilidad dejará de ser opcional
Cuando una persona toma una decisión dentro de una empresa normalmente podemos preguntarle por qué lo hizo.
Cuando un agente ejecuta una acción necesitamos un equivalente técnico y administrativo.
Qué recibió.
Qué información consultó.
Qué decisión tomó.
Qué herramienta utilizó.
Qué resultado produjo.
Qué usuario o sistema autorizó el proceso.
Y qué versión del agente estaba funcionando.
Sin esa trazabilidad, investigar un incidente puede convertirse en reconstruir una historia incompleta.
También aparece una dimensión adicional: la responsabilidad.
Si un agente modifica información equivocadamente, ¿quién responde?
Si envía una comunicación inadecuada, ¿quién responde?
Si ejecuta una transacción no autorizada, ¿quién responde?
La respuesta empresarial nunca debería ser:
“La inteligencia artificial lo hizo”.
La responsabilidad continúa perteneciendo a la organización.
Por eso cada agente debería tener un propietario funcional.
Alguien responsable de su finalidad, sus permisos, su desempeño y su riesgo.
La tecnología puede actuar.
La empresa continúa respondiendo.
No toda autonomía produce valor
Existe una fascinación comprensible por crear sistemas cada vez más autónomos.
Pero autonomía no debe convertirse en objetivo.
Es solamente una característica.
Un proceso totalmente autónomo puede ser menos conveniente que uno parcialmente automatizado si la consecuencia de un error es elevada.
La decisión debe basarse en riesgo y funcionalidad.
Podemos imaginar tres niveles simples.
En el primero, la inteligencia artificial recomienda pero no ejecuta.
En el segundo, ejecuta acciones de bajo riesgo y solicita autorización para las de mayor impacto.
En el tercero, opera automáticamente dentro de límites previamente definidos.
La madurez no consiste necesariamente en llegar al tercer nivel.
Consiste en saber dónde debe estar cada proceso.
Ese criterio evita uno de los errores que hemos visto repetirse durante décadas en transformación tecnológica: confundir más tecnología con más evolución.
Una organización madura no es la que automatiza todo.
Es la que entiende qué merece automatización.
La ciberseguridad deberá convertirse todavía más en gobierno corporativo
Por muchos años la seguridad fue considerada responsabilidad del área de sistemas.
Esa visión ya era insuficiente.
Con agentes capaces de intervenir sobre procesos, información, clientes y decisiones, resulta todavía más evidente.
La alta dirección necesita comprender al menos cinco asuntos: qué agentes funcionan dentro de la organización, cuáles tienen acceso a activos críticos, quién responde por ellos, qué nivel de autonomía poseen y cómo puede detenerse su operación.
No necesita conocer la configuración técnica.
Necesita conocer el riesgo empresarial.
Los comités directivos también tendrán que empezar a incluir preguntas relacionadas con agentes de IA dentro de sus revisiones de tecnología y riesgo.
No porque la IA deba convertirse en tema permanente de moda, sino porque cualquier sistema capaz de ejecutar acciones relevantes pertenece al ámbito del gobierno.
Ese cambio representa una oportunidad.
Durante años la ciberseguridad intentó explicar sus riesgos utilizando lenguaje tecnológico.
La IA agéntica puede obligarnos finalmente a traducir la conversación al idioma correcto:
autoridad, responsabilidad, continuidad, control y confianza.
La verdadera ventaja no estará en tener más agentes
Dentro de algunos años resultará normal que las empresas utilicen numerosos agentes inteligentes.
La tecnología se democratizará.
Las capacidades se parecerán.
Los costos disminuirán.
La diferencia competitiva no estará simplemente en disponer de ellos.
Estará en quién los organiza mejor.
Quién integra correctamente personas y sistemas.
Quién mantiene control sobre identidades y privilegios.
Quién conoce dónde están sus datos.
Quién puede auditar decisiones.
Quién detecta comportamientos anormales.
Y quién logra automatizar sin comprometer confianza.
En ciberseguridad siempre hemos aprendido una lección que también aplica aquí: aquello que no se conoce difícilmente puede protegerse.
Antes de hablar de seguridad agéntica, muchas organizaciones necesitarán algo todavía más básico: inventariar sus agentes, conexiones, permisos y dependencias.
Ese ejercicio puede revelar que el verdadero riesgo no está en una sofisticada amenaza futura.
Está en una integración que nadie documentó.
Una cuenta de servicio olvidada.
Un permiso excesivo.
Una API sin suficiente supervisión.
Una automatización que creció silenciosamente.
O un agente experimental que terminó conectado a información real.
La inteligencia artificial puede actuar; la empresa debe seguir gobernando
La llegada de agentes inteligentes no debería provocar miedo.
Tampoco entusiasmo sin criterio.
Debería provocar mejores preguntas.
Durante mi trayectoria como consultor he visto muchas tecnologías presentadas como revoluciones capaces de transformar completamente las empresas.
Algunas efectivamente lo hicieron.
Pero el resultado nunca dependió únicamente de la tecnología.
Dependió de la capacidad de la organización para incorporarla correctamente.
Con la inteligencia artificial agéntica ocurrirá lo mismo.
Los agentes podrán analizar amenazas, automatizar operaciones, investigar incidentes y acelerar innumerables procesos. También podrán ampliar errores, privilegios excesivos y decisiones mal diseñadas.
La diferencia estará en la arquitectura.
Por eso la ciberseguridad del futuro no consistirá solamente en construir mejores barreras.
Consistirá en gobernar inteligencias que actúan dentro de nuestras organizaciones.
Y cuando una tecnología puede actuar en nuestro nombre, la pregunta empresarial más importante deja de ser cuánto puede hacer.
La pregunta es cuánto debería permitírsele hacer.
Ese criterio debe definirse antes de entregar acceso, antes de conectar herramientas y antes de delegar decisiones.
Porque transformar digitalmente una empresa no significa perder control.
Significa construir mejores formas de ejercerlo.
Si su organización quiere incorporar inteligencia artificial con autonomía sin convertir innovación en exposición, podemos ayudarle a evaluar el entorno tecnológico, los procesos, permisos y riesgos desde una perspectiva funcional y empresarial:
https://t.mtrbio.com/todo-en-unonet