La inteligencia artificial está avanzando más rápido que la capacidad de muchas empresas para comprender qué están autorizando, qué riesgos están asumiendo y quién responderá cuando algo salga mal. El verdadero problema ya no consiste en decidir si una organización debe utilizar IA, sino en determinar bajo qué reglas, controles y responsabilidades debe hacerlo. Cuando una tecnología puede analizar información, ejecutar tareas, interactuar con sistemas y tomar decisiones operativas, delegarle funciones sin una arquitectura de gobierno deja de ser innovación y comienza a convertirse en improvisación empresarial.
Durante décadas he sostenido una idea sencilla: ninguna tecnología merece incorporarse a una organización únicamente porque sea novedosa, poderosa o esté de moda. Debe demostrar funcionalidad, aportar valor y operar dentro de límites comprensibles. Con la inteligencia artificial, ese criterio dejó de ser una recomendación administrativa y se convirtió en una necesidad estratégica. 👉 LEE NUESTRO BLOG...
La discusión sobre seguridad de la inteligencia artificial acaba de entrar en una etapa mucho más seria.
Un ensayo publicado el 10 de septiembre de 2026 en The New York Times por Steven Adler, investigador que trabajó en OpenAI entre 2020 y 2024, volvió a poner sobre la mesa una preocupación que los empresarios no deberían interpretar únicamente como un debate entre científicos: algunos sistemas avanzados de inteligencia artificial están adquiriendo capacidades que obligan a replantear los mecanismos tradicionales de supervisión, seguridad y responsabilidad.
El error sería leer ese debate y concluir que se trata exclusivamente de OpenAI, Anthropic, Meta o de los grandes laboratorios que desarrollan modelos de frontera.
Para una empresa común, la pregunta verdaderamente importante es otra:
¿Qué ocurre cuando incorporamos inteligencia artificial a nuestros procesos sin construir simultáneamente una estructura capaz de gobernarla?
Ahí comienza el problema empresarial.
La IA dejó de ser solamente una herramienta de consulta
Durante los primeros años de popularización de la inteligencia artificial generativa, muchas organizaciones la entendieron como una especie de asistente avanzado.
Se escribía una pregunta. La máquina respondía.
El riesgo parecía relativamente sencillo: verificar si la respuesta era correcta, evitar compartir información confidencial y enseñar al empleado a utilizar adecuadamente la herramienta.
Ese escenario está cambiando.
Los nuevos sistemas pueden trabajar como agentes: reciben objetivos, planifican acciones, utilizan herramientas, consultan información, escriben código, interactúan con otras aplicaciones y ejecutan cadenas de tareas con grados crecientes de autonomía.
Eso modifica radicalmente la conversación.
Una cosa es preguntarle a una inteligencia artificial cómo elaborar un informe.
Otra muy distinta es permitirle entrar a los sistemas empresariales, revisar información, enviar comunicaciones, modificar registros, ejecutar código, gestionar procesos o tomar decisiones operativas.
Cuanta más capacidad recibe el sistema, mayor debe ser la calidad de su gobierno.
OpenAI informó en septiembre de 2026 que GPT-6 Astra alcanzó su nivel denominado “Critical” en capacidades de ciberseguridad dentro de su Preparedness Framework. Según la compañía, con herramientas y acceso adecuados el sistema puede encontrar vulnerabilidades desconocidas y desarrollar mecanismos para explotarlas en sistemas protegidos sin necesidad de que una persona dirija cada paso.
Ese dato no significa que debamos temer irracionalmente a la inteligencia artificial.
Significa algo mucho más práctico: la capacidad tecnológica está creciendo y la arquitectura de control empresarial debe crecer con ella.
El mayor riesgo puede estar fuera del departamento de tecnología
Cuando una empresa habla de seguridad tecnológica suele pensar inmediatamente en antivirus, contraseñas, firewalls, copias de seguridad y especialistas informáticos.
Todo eso continúa siendo necesario.
Pero la inteligencia artificial introduce una dimensión adicional.
El riesgo ya no depende solamente de proteger la infraestructura. También depende de decidir correctamente qué puede hacer cada sistema, a qué información puede acceder, bajo qué condiciones puede actuar, cuándo necesita autorización humana y cómo se registra posteriormente lo realizado.
Eso pertenece al terreno del gobierno empresarial.
Imaginemos una organización que conecta un agente de inteligencia artificial con su CRM, correo electrónico, base de clientes, sistema contable y plataforma comercial.
Desde la perspectiva tecnológica podría parecer una integración extraordinaria.
Desde la perspectiva funcional debemos formular otras preguntas.
¿Puede modificar información?
¿Puede enviar mensajes sin aprobación?
¿Puede consultar toda la base de clientes?
¿Puede descargar documentos?
¿Puede ejecutar transacciones?
¿Quién revisa sus decisiones?
¿Existe un registro de lo que hizo?
¿Puede revertirse una acción incorrecta?
¿Quién tiene autoridad para suspenderlo?
¿Existe un procedimiento cuando aparece un comportamiento inesperado?
Si estas preguntas no tienen respuestas claras, la empresa no posee realmente una estrategia de inteligencia artificial.
Tiene tecnología conectada a procesos.
Y no es lo mismo.
Cuando una organización está incorporando IA y todavía no puede responder con claridad quién controla qué, dónde están los límites y cómo se administran sus riesgos, conviene realizar primero un diagnóstico funcional. Ese es precisamente el tipo de conversación empresarial que desarrollamos en TODO EN UNO.NET: https://t.mtrbio.com/todo-en-unonet
El principio que muchas empresas están olvidando
Durante años, el mercado tecnológico acostumbró a las organizaciones a pensar de una manera muy particular:
Primero compramos la herramienta.
Después descubrimos cómo utilizarla.
Con la inteligencia artificial ese orden puede resultar extremadamente costoso.
Primero debemos comprender el proceso.
Después determinar qué parte necesita inteligencia artificial.
Luego establecer los riesgos.
Posteriormente definir permisos, responsables, controles y métricas.
Y solamente entonces decidir qué tecnología implementar.
Esta diferencia aparentemente sencilla separa una transformación funcional de una adquisición tecnológica impulsiva.
Una empresa no necesita automatizar todo lo automatizable.
Necesita automatizar aquello que produzca un beneficio suficientemente importante para justificar el riesgo, la inversión, la dependencia tecnológica y la complejidad adicional.
Ese análisis rara vez aparece en una demostración comercial.
Un proveedor muestra lo que su herramienta puede hacer.
La dirección empresarial debe decidir lo que la herramienta debe hacer.
Son responsabilidades diferentes.
La seguridad comienza mucho antes del departamento de ciberseguridad
Uno de los aspectos más interesantes del debate actual sobre IA es que seguridad y gobernanza están comenzando a converger.
El NIST mantiene su Artificial Intelligence Risk Management Framework precisamente para ayudar a organizaciones que desarrollan, implementan o utilizan inteligencia artificial a gestionar riesgos relacionados con personas, empresas y sociedad. Su enfoque incorpora dimensiones como confiabilidad, seguridad, resiliencia, transparencia, privacidad y responsabilidad.
La norma ISO/IEC 42001 desarrolla otro elemento fundamental: no trata la inteligencia artificial simplemente como un conjunto de aplicaciones independientes, sino como un asunto que necesita políticas, procedimientos y un sistema de gestión dentro de la organización.
Europa también avanza en esa dirección. Las obligaciones establecidas para determinados proveedores de modelos de IA de propósito general incluyen documentación técnica, evaluación y mitigación de riesgos, reporte de incidentes y medidas de ciberseguridad. Desde el 2 de agosto de 2026, además, entraron en aplicación facultades de supervisión de la Comisión Europea sobre estas obligaciones.
El mensaje de fondo es importante incluso para organizaciones que no estén directamente sometidas a estas normas:
La inteligencia artificial está dejando de administrarse únicamente como software.
Está comenzando a administrarse como una capacidad organizacional que necesita gobierno.
Esa diferencia cambiará profundamente la manera de dirigir empresas.
La pregunta equivocada es: “¿Qué IA podemos implementar?”
En reuniones empresariales escucho con frecuencia preguntas similares:
¿Qué plataforma recomienda?
¿Qué inteligencia artificial debemos comprar?
¿Cuál es la mejor herramienta?
¿Cómo automatizamos esta actividad?
Son preguntas comprensibles, pero normalmente aparecen demasiado pronto.
Antes deberíamos preguntar:
¿Qué problema empresarial queremos resolver?
¿Qué decisión pretendemos mejorar?
¿Qué proceso estamos intentando optimizar?
¿Qué información necesitará el sistema?
¿Qué consecuencias produciría un error?
¿Qué tareas deben permanecer bajo criterio humano?
¿Qué nivel de autonomía estamos dispuestos a conceder?
¿Qué evidencia necesitaremos para auditar posteriormente una decisión?
Cuando respondemos primero estas preguntas, la selección tecnológica cambia.
Incluso podemos descubrir que algunos problemas no necesitan inteligencia artificial.
Necesitan procesos claros.
O información organizada.
O responsabilidades definidas.
O una integración entre sistemas que nunca se realizó correctamente.
He visto demasiadas organizaciones intentando resolver con tecnología problemas que originalmente fueron creados por desorden administrativo.
La inteligencia artificial no elimina ese desorden.
Puede acelerarlo.
Gobernar la IA significa definir autoridad
Existe una palabra que debería entrar definitivamente en las conversaciones sobre inteligencia artificial empresarial: autoridad.
Cada persona dentro de una organización tiene algún nivel de autoridad.
Un auxiliar puede consultar información, pero quizá no aprobar un pago.
Un vendedor puede elaborar una cotización, pero no modificar determinadas condiciones comerciales.
Un gerente puede autorizar una inversión dentro de ciertos límites.
Una junta directiva toma decisiones que otros niveles no pueden asumir.
Ese modelo de autoridad también debe aplicarse a los sistemas de inteligencia artificial.
Un agente debería tener exactamente el nivel de acceso necesario para ejecutar su función, no todo el acceso técnicamente disponible.
Debería existir separación entre acciones de bajo riesgo y acciones irreversibles.
Debería establecerse cuándo una tarea necesita confirmación humana.
Debería poder identificarse qué sistema ejecutó determinada acción.
Y debería existir un mecanismo que permita detenerlo cuando aparezca una anomalía.
Esto no significa poner seres humanos a aprobar eternamente cada operación realizada por una máquina.
Significa construir niveles progresivos de confianza.
La autonomía empresarial debe ganarse con evidencia.
Primero observamos cómo funciona el sistema.
Después medimos.
Luego ampliamos responsabilidades.
Si aparecen desviaciones, reducimos permisos, ajustamos controles y volvemos a evaluar.
Esa lógica es mucho más responsable que conectar una herramienta y esperar que todo funcione correctamente.
La transparencia de los incidentes también importa dentro de las empresas
El ensayo de Steven Adler plantea una idea especialmente útil: aprender también de los incidentes y de los “cuasiaccidentes”, de manera similar a lo que ocurre en industrias donde los errores pueden tener consecuencias graves.
Este principio debería trasladarse a las organizaciones que utilizan IA.
Supongamos que un sistema estuvo a punto de enviar información equivocada a 5.000 clientes, pero un empleado detectó el problema segundos antes.
Formalmente no ocurrió ningún daño.
Administrativamente ocurrió algo muy importante.
La organización descubrió una debilidad.
Si simplemente celebra que “no pasó nada” y continúa trabajando, desperdicia información valiosísima.
El incidente debería documentarse.
¿Por qué ocurrió?
¿Qué combinación de instrucciones produjo el error?
¿Por qué el sistema tenía permiso para realizar aquella acción?
¿Qué control permitió detenerlo?
¿Qué habría sucedido si ese control no existiera?
¿Puede volver a ocurrir?
Cada incidente debería mejorar la arquitectura empresarial.
Esta forma de aprendizaje es uno de los componentes más importantes de una cultura tecnológica madura.
Cuando analizamos organizaciones que desean automatizar procesos mediante IA, nuestra preocupación nunca comienza por escoger la herramienta más llamativa. Comienza por comprender procesos, responsabilidades, información, controles y objetivos. Si su empresa está en esa etapa, puede conversar con nosotros desde https://t.mtrbio.com/todo-en-unonet
La IA también necesita gobierno corporativo
Durante mucho tiempo, las decisiones tecnológicas fueron delegadas casi completamente a las áreas de sistemas.
Ese modelo ya no resulta suficiente.
Cuando la IA interviene en contratación, ventas, atención al cliente, análisis financiero, comunicaciones, seguridad, propiedad intelectual, datos personales o decisiones administrativas, su impacto atraviesa prácticamente toda la empresa.
Por eso la dirección debe participar.
No para programar modelos.
Para gobernar consecuencias.
Una organización madura debería poder determinar, como mínimo:
qué aplicaciones de IA está utilizando;
qué procesos empresariales dependen de ellas;
qué información reciben;
qué proveedores intervienen;
qué decisiones pueden ejecutar;
qué riesgos relevantes existen;
qué responsables humanos están asignados;
qué controles operativos funcionan;
qué incidentes han ocurrido;
y qué resultados justifican mantener cada solución.
No necesitamos convertir esto en burocracia.
Necesitamos convertirlo en administración.
Porque existe una diferencia gigantesca entre gobernar y obstaculizar.
Gobernar significa establecer las condiciones que permiten innovar con confianza.
La empresa que mejor gobierne la inteligencia artificial podrá utilizarla más, no menos
Existe una aparente contradicción que conviene comprender.
Algunas organizaciones perciben los controles como enemigos de la innovación.
En realidad ocurre lo contrario.
Cuando nadie conoce los límites, cualquier incidente importante puede provocar que la dirección prohíba herramientas, restrinja accesos o paralice proyectos.
Una arquitectura adecuada genera el efecto contrario.
Permite experimentar porque existen entornos controlados.
Permite automatizar porque existen permisos definidos.
Permite conceder autonomía porque existe monitoreo.
Permite innovar porque alguien responde por el resultado.
La gobernanza no desacelera necesariamente la inteligencia artificial.
Reduce la improvisación.
Y la improvisación suele ser muchísimo más costosa que el control.
OpenAI afirma actualmente que su Preparedness Framework continúa siendo la base para administrar riesgos severos asociados con sistemas avanzados y que su Frontier Governance Framework conecta esas prácticas con exigencias regulatorias emergentes. Entre las áreas contempladas aparecen evaluación de riesgos, seguridad, respuesta a incidentes, revisión externa y actualización continua de los controles.
Podemos discutir si esas medidas son suficientes.
Pero empresarialmente existe una lección mucho más amplia: ninguna organización debería esperar a tener un incidente para diseñar su gobierno de inteligencia artificial.
La Arquitectura de Adopción Inteligente
En TODO EN UNO.NET entendemos la incorporación de inteligencia artificial como un problema de arquitectura empresarial, no simplemente de adquisición tecnológica.
La empresa necesita conectar propósito, procesos, personas, información, tecnología, seguridad, medición y responsabilidad.
A eso responde una Arquitectura de Adopción Inteligente (AAI).
Su punto de partida no consiste en instalar IA.
Consiste en determinar dónde tiene sentido utilizarla.
Una organización debe identificar primero aquellos procesos donde la inteligencia artificial puede producir mejoras reales: reducción de tiempos, aumento de capacidad analítica, eliminación de tareas repetitivas, mejor atención, generación de conocimiento o apoyo a decisiones.
Después debe analizar datos, dependencias y riesgos.
Más tarde se diseña el nivel adecuado de automatización.
Finalmente se implementa, se mide y se amplía únicamente cuando existe evidencia.
Ese orden protege algo todavía más importante que la tecnología: protege la capacidad de la empresa para decidir.
Porque uno de los mayores peligros de la inteligencia artificial no consiste en que una máquina tome todas nuestras decisiones.
Consiste en que los seres humanos dejemos progresivamente de preguntarnos por qué estamos delegándolas.
La ventaja competitiva será el criterio
Probablemente dentro de pocos años muchas capacidades de inteligencia artificial serán accesibles para casi todas las organizaciones.
Los modelos serán mejores.
Las interfaces serán más sencillas.
Las integraciones serán más rápidas.
Y los costos probablemente continuarán disminuyendo en numerosas aplicaciones.
Si todos pueden acceder a tecnologías similares, poseer la herramienta dejará de representar una ventaja diferencial.
La ventaja estará en saber utilizarla.
Y utilizarla correctamente requiere criterio.
Saber qué automatizar.
Qué proteger.
Qué medir.
Qué mantener bajo control humano.
Qué proveedor seleccionar.
Cuándo detener un proyecto.
Cuándo ampliar su autonomía.
Y, especialmente, saber distinguir entre una innovación que transforma la organización y una tecnología atractiva que solamente añade complejidad.
Ahí aparece nuevamente nuestra filosofía.
“Nunca la tecnología por la tecnología en sí misma; sino la tecnología por la funcionalidad.”
La frase adquiere una dimensión todavía mayor en la era de la inteligencia artificial.
Antes podía protegernos de inversiones innecesarias.
Ahora también puede protegernos de decisiones empresariales mal gobernadas.
No necesitamos empresas temerosas de la IA.
Necesitamos empresas capaces de administrarla.
No necesitamos detener toda automatización porque existen riesgos.
Necesitamos construir organizaciones suficientemente maduras para identificar esos riesgos antes de entregar autoridad a los sistemas.
No necesitamos esperar que los grandes desarrolladores resuelvan todos los problemas de seguridad.
Cada empresa tiene responsabilidades propias sobre la manera en que introduce, conecta y utiliza estas tecnologías.
La conversación que realmente debemos tener
Quizá dentro de algún tiempo aparezcan nuevos modelos, nuevos incidentes y nuevas advertencias.
La velocidad tecnológica hará que muchos titulares actuales envejezcan rápidamente.
Pero existe una pregunta que permanecerá vigente:
¿Nuestra organización está aumentando su capacidad tecnológica más rápido de lo que aumenta su capacidad de gobernarla?
Si la respuesta es sí, existe una deuda empresarial.
Puede que todavía no aparezca en los estados financieros.
Puede que todavía no haya generado una crisis.
Puede incluso que los proyectos actuales parezcan exitosos.
Pero esa deuda existe.
Y cuanto mayor sea la autonomía que otorguemos a los sistemas, más importante será resolverla.
La inteligencia artificial representa una extraordinaria oportunidad para aumentar productividad, conocimiento y capacidad empresarial.
Precisamente por eso merece algo mejor que entusiasmo.
Merece arquitectura.
Merece responsabilidad.
Merece criterio.
Y merece dirección.
Las empresas que comprendan esto antes que las demás no serán necesariamente las que adopten más inteligencia artificial.
Serán las que aprendan a convertirla en una capacidad funcional, medible, segura y alineada con sus objetivos.
Si su organización ya está utilizando inteligencia artificial —o está pensando en incorporarla— antes de adquirir una nueva herramienta conviene responder una pregunta mucho más importante: ¿tenemos la estructura necesaria para gobernarla? Podemos analizarlo conjuntamente desde https://t.mtrbio.com/todo-en-unonet
La tecnología seguirá avanzando. Nuestra responsabilidad como empresarios y directivos consiste en asegurarnos de que también avance nuestra capacidad para comprenderla, administrarla y ponerla al servicio de propósitos humanos y empresariales legítimos.
La verdadera transformación no ocurrirá cuando una empresa tenga la inteligencia artificial más poderosa.
Ocurrirá cuando tenga el criterio suficiente para decidir qué hacer con ella.