Su empresa puede estar entregando decisiones a la inteligencia artificial sin darse cuenta
La inteligencia artificial ya no se limita a responder preguntas. Ahora puede ejecutar tareas, consultar información y tomar decisiones operativas dentro de una empresa. El verdadero riesgo comienza cuando esas capacidades avanzan más rápido que los controles, las responsabilidades y el conocimiento de quienes dirigen la organización.
Muchas empresas están incorporando herramientas inteligentes para reducir tiempos, automatizar actividades y mejorar su productividad. Sin embargo, pocas se detienen a formular una pregunta fundamental: ¿sabemos realmente qué puede hacer la inteligencia artificial con la información y los permisos que le estamos entregando?
La cuestión no consiste en desconfiar de la tecnología. Consiste en comprender que cada nueva capacidad también representa una responsabilidad empresarial.
Cuando una herramienta pasa de recomendar acciones a ejecutarlas, cambia la naturaleza del riesgo y también debe cambiar la manera de administrarlo.
👉 LEE NUESTRO BLOG...
El problema no es que la inteligencia artificial actúe, sino que nadie haya definido hasta dónde puede hacerlo
Durante años, las organizaciones comprendieron la seguridad informática como una combinación de antivirus, contraseñas, copias de respaldo, protección de redes y controles de acceso.
Ese enfoque continúa siendo necesario, pero ya no resulta suficiente para comprender todas las implicaciones de la automatización inteligente.
Hoy existen agentes de inteligencia artificial capaces de interactuar con aplicaciones empresariales, interpretar instrucciones, consultar documentos, modificar registros, ejecutar procesos y comunicarse con otros sistemas.
La diferencia es profunda.
Un asistente tradicional puede ayudar a redactar un correo electrónico. Un agente con los permisos correspondientes podría consultar una base de clientes, preparar mensajes personalizados, seleccionar destinatarios y ejecutar una campaña.
En el primer escenario, la persona conserva directamente la ejecución. En el segundo, parte de esa responsabilidad operativa se traslada a un sistema automatizado.
Esto plantea una pregunta que debería formar parte de cualquier conversación sobre transformación empresarial:
¿Quién responde por una decisión equivocada cuando la acción fue ejecutada por un agente de inteligencia artificial?
Desde la perspectiva de TODO EN UNO.NET, la respuesta no puede limitarse al fabricante de la herramienta ni al responsable de tecnología.
La organización sigue teniendo la responsabilidad de definir sus procesos, establecer sus controles y determinar qué decisiones pueden automatizarse.
Una nueva generación de riesgos que comienza dentro de los procesos empresariales
Imaginemos una empresa comercial que decide incorporar un agente de inteligencia artificial para apoyar su gestión de cartera.
El objetivo parece razonable: identificar obligaciones vencidas, preparar comunicaciones, organizar prioridades y disminuir el trabajo manual.
Inicialmente, el agente consulta información y presenta recomendaciones.
Posteriormente, la empresa decide otorgarle acceso al sistema administrativo para actualizar estados de clientes, generar comunicaciones y registrar compromisos de pago.
La productividad podría mejorar considerablemente.
Pero también aparecen situaciones que merecen atención.
¿Qué ocurre si el agente interpreta equivocadamente una instrucción y modifica un registro que no debía alterar?
¿Qué sucede si recibe información manipulada dentro de un documento y la interpreta como una orden válida?
¿Podría enviar información financiera a un destinatario incorrecto?
¿Existe un mecanismo que permita identificar exactamente qué hizo, cuándo lo hizo y bajo qué autorización?
Estos escenarios no significan que la inteligencia artificial sea inadecuada para la gestión empresarial.
Demuestran que automatizar una actividad sin comprender sus controles equivale a trasladar un problema organizacional a una herramienta más rápida.
Y cuando un error se ejecuta automáticamente, también puede multiplicarse automáticamente.
La ciberseguridad está comenzando a observar el comportamiento de los agentes inteligentes
Los desarrollos recientes de la industria confirman que la seguridad empresarial está ampliando su campo de atención.
En septiembre de 2026, ESET anunció nuevas capacidades de seguridad orientadas a entornos empresariales que utilizan agentes de inteligencia artificial.
Entre ellas se encuentran mecanismos destinados a examinar componentes relacionados con estos agentes y supervisar sus comportamientos para identificar actividades sospechosas.
El anuncio también contempla mejoras en tecnologías de correlación, detección y respuesta ante incidentes.
Este avance resulta relevante porque evidencia una transformación en la manera de comprender la protección tecnológica.
Ya no basta con preguntarse si una aplicación contiene código malicioso.
También es necesario comprender qué acciones ejecuta, qué recursos utiliza y si su comportamiento corresponde a las funciones autorizadas.
Una aplicación puede disponer de credenciales válidas y, aun así, realizar una operación que exceda el propósito empresarial para el cual fue configurada.
Pensemos en un empleado que tiene autorización para consultar información de clientes, pero no para exportar toda la base de datos.
El problema no sería necesariamente la identidad del usuario, sino el alcance de la acción.
Con los agentes inteligentes sucede algo semejante.
La existencia de una autorización técnica no significa que cualquier operación realizada mediante ella sea apropiada desde el punto de vista funcional.
La seguridad debe proteger tanto los accesos como el propósito de las acciones.
Esta distinción será cada vez más importante para las organizaciones que pretendan utilizar inteligencia artificial en procesos críticos.
Antes de comprar otra herramienta, revise cómo está funcionando su empresa
Uno de los errores frecuentes en los proyectos tecnológicos consiste en comenzar por la selección del producto.
Se identifica una necesidad, se revisan soluciones disponibles y se adquiere una plataforma que promete resolverla.
Posteriormente aparecen preguntas que debieron formularse antes de la compra.
¿Quién administrará la solución?
¿Qué información necesitará?
¿Con cuáles sistemas se integrará?
¿Qué procedimientos cambiarán?
¿Cómo se verificará que las decisiones automatizadas sean correctas?
¿Qué ocurrirá cuando la herramienta falle?
La secuencia debería ser diferente.
Primero se comprende la operación empresarial. Después se identifican las oportunidades de automatización. Finalmente se seleccionan las capacidades tecnológicas que responden a necesidades concretas.
Esta es una de las razones por las cuales en TODO EN UNO.NET sostenemos un principio que ha orientado nuestra trayectoria:
Nunca la tecnología por la tecnología en sí misma; sino la tecnología por la funcionalidad.
Una herramienta puede ser técnicamente extraordinaria y, al mismo tiempo, resultar inadecuada para una organización que no ha definido sus responsabilidades o que administra información sin controles suficientes.
El problema no siempre está en la calidad del producto.
Muchas veces está en la ausencia de una arquitectura que permita incorporarlo correctamente.
Cuando una empresa necesita determinar si sus procesos están preparados para utilizar inteligencia artificial con autonomía, puede comenzar por una conversación orientada a identificar riesgos, responsabilidades y oportunidades reales de mejora.
https://t.mtrbio.com/todo-en-unonet
El peligro de convertir a los agentes inteligentes en empleados sin supervisión
Una organización no permitiría que una persona recién vinculada tuviera acceso irrestricto a sus cuentas bancarias, contratos, información confidencial y sistemas administrativos.
Antes de asignarle responsabilidades, normalmente definiría funciones, niveles de autoridad y mecanismos de supervisión.
Sin embargo, algunas implementaciones de inteligencia artificial pueden terminar otorgando a los agentes permisos amplios sin aplicar criterios equivalentes.
Esto ocurre porque las organizaciones suelen concentrarse en lo que la tecnología puede hacer y no en lo que debería estar autorizada a realizar.
Conviene establecer una diferencia entre tres conceptos.
Capacidad: lo que técnicamente puede ejecutar el agente.
Autorización: las acciones que la organización le permite realizar.
Responsabilidad: quién debe supervisar sus resultados y responder por las consecuencias de su utilización.
Una implementación responsable necesita mantener alineados estos tres elementos.
Por ejemplo, un agente podría tener capacidad para generar órdenes de compra, pero autorización únicamente para preparar propuestas que posteriormente serán aprobadas por una persona.
Otro podría clasificar solicitudes de clientes y asignarlas automáticamente, siempre que no modifique condiciones contractuales ni compromisos económicos.
Un tercero podría analizar información financiera, pero sin permiso para modificar registros contables o ejecutar pagos.
Estas restricciones no reducen necesariamente el valor de la automatización.
Por el contrario, permiten utilizarla con mayor confianza y disminuir la posibilidad de que una equivocación afecte actividades esenciales.
La autonomía debe corresponder al nivel de riesgo de cada proceso.
Cinco controles que deberían existir antes de permitir que un agente actúe
La adopción empresarial de agentes inteligentes requiere controles comprensibles para la dirección, no solamente configuraciones técnicas conocidas por especialistas.
1. Identificar qué agentes están operando
La organización necesita un inventario actualizado de los agentes autorizados, sus funciones, responsables, proveedores y sistemas conectados.
No debería existir una automatización crítica cuya existencia dependa exclusivamente del conocimiento de la persona que la configuró.
También es importante reconocer las herramientas que los colaboradores utilizan por iniciativa propia.
La inteligencia artificial incorporada informalmente puede procesar información empresarial sin que la dirección conozca sus condiciones de utilización.
2. Aplicar permisos mínimos
Cada agente debería acceder exclusivamente a los recursos indispensables para cumplir su función.
Si únicamente necesita consultar documentos, no debería disponer de permisos para eliminarlos.
Si su responsabilidad consiste en preparar información, no necesariamente debe estar autorizado para enviarla a terceros.
Los permisos deben revisarse cuando cambien las funciones o finalice la necesidad que justificó su asignación.
3. Establecer decisiones que requieren intervención humana
No todas las operaciones merecen el mismo grado de autonomía.
Una clasificación preliminar de documentos presenta riesgos diferentes a una transferencia financiera o a la modificación de información contractual.
Por ello, las organizaciones deben establecer límites económicos, funcionales y operativos.
Las decisiones de alto impacto deberían incorporar autorizaciones adicionales y mecanismos de verificación.
4. Mantener trazabilidad de las operaciones
Es necesario conservar registros que permitan comprender las acciones ejecutadas por los agentes.
La trazabilidad debería facilitar la identificación de operaciones relevantes, accesos utilizados, resultados obtenidos y situaciones excepcionales.
Estos registros deben administrarse con criterios de seguridad, proporcionalidad y conservación adecuada de la información.
No se trata de almacenar indiscriminadamente todos los datos posibles, sino de conservar evidencia útil para supervisar y responder ante incidentes.
5. Preparar mecanismos de suspensión y recuperación
Toda automatización importante necesita una respuesta ante fallos.
La empresa debe poder suspender la operación de un agente, revocar sus credenciales, revisar las acciones ejecutadas y recuperar información cuando resulte necesario.
Un sistema que funciona rápidamente, pero que no puede detenerse de manera controlada, introduce una dependencia peligrosa.
Estos cinco controles constituyen una base práctica. No sustituyen una evaluación integral de seguridad, pero ayudan a establecer condiciones mínimas de gobierno.
La inteligencia artificial también puede recibir instrucciones maliciosas sin que el empresario lo advierta
Existe un riesgo particularmente importante cuando los agentes interpretan información proveniente de documentos, páginas web, correos electrónicos o repositorios externos.
Se conoce como inyección de instrucciones o prompt injection.
Consiste en introducir contenido diseñado para alterar el comportamiento de un sistema de inteligencia artificial.
Supongamos que un agente tiene la función de revisar solicitudes comerciales recibidas por correo electrónico.
Uno de esos mensajes incluye instrucciones ocultas o aparentemente legítimas que buscan inducir al agente a consultar información ajena a la solicitud y enviarla a una dirección externa.
El correo es información que el agente debe analizar, no una fuente autorizada para modificar sus responsabilidades.
Sin embargo, si el sistema no diferencia adecuadamente entre datos e instrucciones, podría intentar ejecutar acciones que nunca fueron solicitadas por la organización.
El riesgo aumenta cuando los agentes disponen de herramientas conectadas a sistemas internos.
La prevención exige controles sobre los permisos, validación de entradas, separación entre instrucciones confiables y contenido externo, supervisión de operaciones sensibles y revisión de los componentes utilizados.
Los controles técnicos deben acompañarse de decisiones organizacionales claras.
No sería razonable esperar que un único producto de seguridad elimine todos los riesgos derivados de una implementación inadecuada.
El verdadero costo de una automatización mal diseñada no siempre aparece en los estados financieros
Cuando se evalúa una inversión en inteligencia artificial, normalmente se calculan ahorros de tiempo, reducción de actividades manuales y posibilidades de aumentar la productividad.
Son indicadores necesarios.
Pero una evaluación empresarial completa también debe considerar los costos potenciales de los errores.
Una actualización incorrecta de inventarios puede afectar compras y entregas.
Una clasificación equivocada de clientes puede deteriorar relaciones comerciales.
Una comunicación automatizada enviada sin validación puede generar compromisos que la empresa no pretendía asumir.
Una exposición de datos personales puede ocasionar incidentes de seguridad, reclamaciones y obligaciones legales.
En Colombia, el tratamiento de datos personales debe considerar, cuando corresponda, las obligaciones de la Ley 1581 de 2012 y sus disposiciones reglamentarias.
El hecho de que una operación sea ejecutada mediante inteligencia artificial no elimina las responsabilidades legales de quienes intervienen en el tratamiento de la información.
Por eso, la evaluación de una automatización no debería limitarse a cuánto trabajo reemplaza.
También debe preguntarse cuánto riesgo incorpora y qué capacidad tiene la empresa para administrarlo.
Una implementación rentable en apariencia puede resultar costosa cuando no se han previsto sus consecuencias operativas.
La confianza digital comienza cuando la dirección comprende sus propios riesgos
La seguridad de la inteligencia artificial no debería convertirse en un asunto exclusivo del departamento de sistemas.
La gerencia conoce las prioridades estratégicas.
Los responsables de procesos conocen las operaciones.
Las áreas jurídicas y de cumplimiento identifican obligaciones.
Los responsables tecnológicos conocen las integraciones y las condiciones técnicas.
La protección efectiva surge cuando estas perspectivas trabajan de manera coordinada.
No se necesita que todos los directivos comprendan los detalles de programación de un agente inteligente.
Pero sí deberían poder responder preguntas esenciales:
¿Para qué existe?
¿Qué información utiliza?
¿Qué decisiones puede ejecutar?
¿Quién supervisa sus resultados?
¿Qué controles se aplican?
¿Cómo se responde ante un comportamiento inesperado?
Cuando estas preguntas no tienen respuestas claras, la organización enfrenta un problema de gobierno, independientemente de la tecnología utilizada.
La inteligencia artificial puede acelerar procesos, pero no reemplaza la obligación de dirigirlos.
Si su empresa ya utiliza automatizaciones inteligentes y todavía no ha definido claramente sus límites de operación, conviene revisar primero las condiciones funcionales y los riesgos antes de ampliar su autonomía.
En TODO EN UNO.NET abordamos estas conversaciones desde la relación entre procesos, tecnología y responsabilidades empresariales.
https://t.mtrbio.com/todo-en-unonet
Una arquitectura para proteger la información y conservar la confianza
La incorporación de agentes inteligentes representa una oportunidad para revisar cómo se construye y mantiene la confianza digital dentro de las organizaciones.
No basta con instalar soluciones de protección.
Es necesario establecer criterios que permitan comprender qué información existe, cómo circula, quién puede utilizarla y bajo cuáles condiciones.
Este enfoque se relaciona directamente con la Arquitectura de Protección de Datos y Confianza Digital (APDP) de TODO EN UNO.NET.
Su valor consiste en ayudar a que la protección de la información forme parte del funcionamiento empresarial, en lugar de tratarse como una actividad aislada que aparece cuando surge una auditoría o un incidente.
En el contexto de la inteligencia artificial, esta arquitectura permite abordar asuntos como la identificación de información sensible, la revisión de responsabilidades, la evaluación de riesgos, la definición de controles y la articulación de las obligaciones aplicables.
También facilita distinguir entre la seguridad de la infraestructura tecnológica y la responsabilidad empresarial sobre los datos.
Son dimensiones relacionadas, pero no equivalentes.
Una plataforma puede disponer de mecanismos sólidos de seguridad y, aun así, utilizar información para finalidades que la organización no ha evaluado adecuadamente.
De igual manera, una empresa puede contar con políticas de protección de datos formalmente documentadas, pero carecer de mecanismos operativos para verificar su cumplimiento.
La arquitectura busca cerrar esa distancia entre lo que la organización declara y lo que realmente hace.
¿Cómo saber si su organización está preparada para incorporar agentes de inteligencia artificial?
No es necesario esperar a implementar una solución compleja para realizar una evaluación inicial.
Una empresa puede comenzar con un ejercicio sencillo.
Seleccione un proceso que actualmente utilice inteligencia artificial o que tenga previsto automatizar.
Describa sus actividades, identifique la información utilizada y determine cuáles decisiones podrían ejecutarse sin intervención humana.
Posteriormente, examine tres escenarios.
Escenario normal: el agente realiza correctamente su función y produce el resultado esperado.
Escenario de error: el agente interpreta equivocadamente información o ejecuta una acción incorrecta.
Escenario de abuso: una persona o componente malicioso intenta aprovechar sus permisos para provocar una operación no autorizada.
Para cada escenario, determine quién detectaría el problema, cómo podría detenerse la operación y qué consecuencias tendría para la empresa.
Este ejercicio permite descubrir vulnerabilidades que muchas veces permanecen ocultas detrás de una demostración tecnológica exitosa.
También ayuda a establecer prioridades.
No todos los riesgos necesitan inversiones extraordinarias.
Algunos pueden reducirse mediante permisos adecuados, procedimientos de aprobación, capacitación o modificaciones en la configuración de las herramientas existentes.
Otros exigirán controles técnicos especializados.
La decisión debe corresponder a la naturaleza del riesgo y no únicamente a la disponibilidad comercial de una solución.
La siguiente ventaja competitiva no será tener más inteligencia artificial, sino gobernarla mejor
Durante los últimos años, buena parte de la conversación empresarial se ha concentrado en la necesidad de adoptar inteligencia artificial.
Las organizaciones han recibido múltiples mensajes sobre productividad, innovación, competitividad y automatización.
Esa conversación sigue siendo importante, pero necesita evolucionar.
La pregunta ya no debería ser únicamente cuántas herramientas inteligentes utiliza una empresa.
También debemos preguntarnos qué tan preparada está para confiarles parte de su operación.
Una organización que automatiza sin controles puede aumentar su velocidad, pero también su exposición.
Otra que comprende sus procesos, delimita responsabilidades y establece mecanismos de supervisión puede avanzar de manera más sostenible.
La diferencia no depende exclusivamente del presupuesto tecnológico.
Depende de la calidad de las decisiones empresariales.
Por eso, la seguridad de los agentes inteligentes no debe entenderse como un obstáculo para la innovación.
Debe convertirse en una condición que permita desarrollarla con responsabilidad.
En un entorno donde la información representa uno de los activos más importantes de las organizaciones, protegerla significa también preservar relaciones comerciales, credibilidad y continuidad operativa.
La decisión que ningún empresario debería delegar
La inteligencia artificial continuará evolucionando y asumirá funciones cada vez más sofisticadas.
Podrá analizar situaciones, recomendar alternativas y ejecutar actividades que actualmente requieren intervención humana.
Pero existe una responsabilidad que no debería desaparecer: determinar para qué se utiliza la tecnología, cuáles son sus límites y cómo se protegen los intereses de la organización y de las personas.
El verdadero liderazgo empresarial no consiste en permitir que la inteligencia artificial haga todo lo que técnicamente puede hacer.
Consiste en establecer qué debe hacer, bajo cuáles condiciones y con qué controles.
En TODO EN UNO.NET creemos que una transformación tecnológica solo tiene sentido cuando fortalece la funcionalidad empresarial y permite tomar mejores decisiones.
Si su organización está incorporando agentes inteligentes o desea revisar cómo proteger la información utilizada en sus automatizaciones, una conversación de claridad empresarial puede ser el punto de partida para identificar prioridades y construir un camino responsable.
https://t.mtrbio.com/todo-en-unonet
La tecnología puede ejecutar decisiones. La responsabilidad de gobernarlas continúa siendo humana.
Julio César Moreno Duque Fundador – TODO EN UNO.NET "Nunca la tecnología por la tecnología en sí misma; sino la tecnología por la funcionalidad."
Arquitectura: Arquitectura de Protección de Datos y Confianza Digital (APDP).