El verdadero riesgo no es la IA: es una empresa sin criterio

Muchas empresas creen que controlar una tecnología significa prohibirla. Pero cuando una herramienta desaparece de la vista de la dirección, no necesariamente deja de utilizarse: simplemente comienza a operar fuera de los procesos, controles y responsabilidades de la organización. Ese fenómeno se está haciendo especialmente visible con la inteligencia artificial. El problema empresarial, entonces, no consiste únicamente en decidir si ChatGPT, Copilot, Gemini u otras soluciones pueden utilizarse. La pregunta importante es otra: ¿está preparada la organización para que sus personas tomen buenas decisiones cuando utilizan tecnología? Durante años he insistido en una idea que hoy adquiere todavía mayor relevancia: una herramienta nunca reemplaza la administración, el criterio ni la responsabilidad. La tecnología puede acelerar procesos, ampliar capacidades y transformar organizaciones, pero también puede amplificar errores que ya existían. Por eso, antes de preguntarnos qué tecnología debemos permitir o prohibir, deberíamos revisar cómo estamos dirigiendo nuestra empresa y formando a quienes toman decisiones. 👉 LEE NUESTRO BLOG...

El debate sobre el uso de teléfonos, redes sociales, inteligencia artificial o cualquier otra tecnología suele comenzar de una manera demasiado sencilla: buscamos determinar si la herramienta es buena o mala.

Pero las organizaciones no funcionan de esa manera.

Una misma tecnología puede producir resultados completamente diferentes dependiendo del contexto en el que se utilice.

Una empresa con procesos definidos, responsabilidades claras, personas capacitadas y mecanismos de supervisión puede convertir una nueva herramienta en una ventaja.

La misma herramienta, dentro de una organización improvisada, puede convertirse en una fuente adicional de errores, filtraciones de información, decisiones deficientes y pérdida de control.

Por eso existe una pregunta que considero mucho más útil:

¿Qué problema organizacional estamos intentando resolver cuando decidimos controlar una tecnología?

La respuesta cambia completamente la conversación.

Cuando prohibimos una herramienta, pero no resolvemos el problema

Durante décadas hemos visto la misma reacción frente a muchas innovaciones.

Aparece una tecnología nueva.

Surge preocupación.

Después llegan restricciones.

Finalmente descubrimos que las personas encontraron otras formas de utilizarla.

Ocurrió con Internet.

Ocurrió con las memorias USB.

Ocurrió con los servicios de almacenamiento en la nube.

Ocurrió con WhatsApp.

Ocurrió con los teléfonos personales dentro de las empresas.

Y ahora está ocurriendo con la inteligencia artificial generativa.

El artículo que inspira esta reflexión plantea precisamente el peligro de convertir una tecnología en la explicación única de problemas mucho más complejos. En el ámbito empresarial, esa reflexión resulta particularmente importante porque muchas organizaciones están descubriendo que prohibir una herramienta no necesariamente elimina su utilización. LinkedIn

Un empleado puede no utilizar una determinada plataforma desde el computador corporativo y hacerlo desde su teléfono.

Puede utilizar una cuenta personal.

Puede copiar información desde otro dispositivo.

Puede buscar una alternativa que no esté bloqueada.

Desde la perspectiva tecnológica aparentemente solucionamos el problema.

Desde la perspectiva empresarial posiblemente lo empeoramos.

¿Por qué?

Porque perdimos visibilidad.

Y aquello que una organización no puede observar difícilmente puede gobernarlo.

La IA informal ya es un problema de administración

Imaginemos una situación sencilla.

Un colaborador recibe un contrato que necesita revisar.

Descubre que una herramienta de inteligencia artificial puede ayudarle a identificar rápidamente determinados puntos.

Copia el documento completo.

Lo introduce en una plataforma pública.

Obtiene un resumen.

Ahorra treinta minutos.

Desde su perspectiva hizo algo razonable.

Desde la perspectiva de la organización pueden existir preguntas completamente diferentes:

¿El contrato contenía información confidencial?

¿Había datos personales?

¿Estaba autorizado para suministrar esa información a un tercero?

¿Conoce las condiciones de tratamiento de información de la plataforma utilizada?

¿Verificó las conclusiones generadas?

¿Quién responde si la IA omitió una cláusula importante?

¿Existe trazabilidad sobre esa decisión?

Ninguna de esas preguntas se resuelve diciendo simplemente:

“Está prohibido utilizar inteligencia artificial”.

Se resuelven construyendo organización.

Ese es precisamente uno de los campos donde considero necesaria una Arquitectura de Adopción Inteligente (AAI).

Porque adoptar inteligencia artificial empresarialmente no significa entregar herramientas.

Significa construir las condiciones para utilizarlas con propósito, límites, conocimiento y responsabilidad.

Si su empresa ya está utilizando inteligencia artificial —oficialmente o sin que la dirección tenga completa visibilidad— vale la pena comenzar por diagnosticar qué está ocurriendo realmente:

https://t.mtrbio.com/todo-en-unonet

No se trata de comprar otra plataforma. Se trata de comprender primero el problema.

La tecnología suele revelar problemas que ya existían

Existe algo todavía más interesante.

Muchas dificultades que atribuimos actualmente a la inteligencia artificial no nacieron con ella.

Ya estaban presentes.

La IA simplemente las hizo más visibles.

Si los empleados copiaban información sin analizarla, ahora pueden hacerlo mucho más rápido.

Si las decisiones carecían de verificación, ahora pueden producirse automáticamente.

Si no existían políticas claras para manejar información confidencial, ahora existen muchas más herramientas hacia las cuales esa información puede salir.

Si los procesos dependían exclusivamente del conocimiento de determinadas personas, la inteligencia artificial no solucionará mágicamente esa dependencia.

Si la dirección desconocía cómo trabajaban realmente sus colaboradores, tampoco bastará con instalar un software para recuperar el control.

Aquí aparece una distinción fundamental:

digitalizar un problema no significa resolverlo.

Y automatizarlo puede incluso multiplicarlo.

Esta idea ha acompañado durante años nuestra filosofía en TODO EN UNO.NET:

“Nunca la tecnología por la tecnología en sí misma; sino la tecnología por la funcionalidad.”

Antes de implementar cualquier herramienta debemos comprender qué función empresarial debe cumplir, qué proceso modifica, quién será responsable, qué información utilizará y cómo evaluaremos sus resultados.

Con la inteligencia artificial esta disciplina se vuelve todavía más importante.

El verdadero activo que debemos desarrollar es el criterio

Durante años las empresas capacitaron a las personas para utilizar programas.

Cómo utilizar Excel.

Cómo manejar un ERP.

Cómo ingresar información en un CRM.

Cómo utilizar una plataforma contable.

Cómo operar determinado sistema.

La inteligencia artificial introduce un cambio profundo.

Ahora ya no basta con enseñar dónde hacer clic.

Necesitamos enseñar a decidir.

Porque dos personas pueden utilizar exactamente la misma herramienta y obtener resultados radicalmente diferentes.

La diferencia estará en las preguntas que formulen.

En la información que suministren.

En su capacidad para detectar errores.

En las fuentes que consulten.

En su conocimiento del negocio.

En la forma como contrasten resultados.

Y, especialmente, en saber cuándo no deben utilizar la IA.

Eso es criterio.

Y el criterio no se instala.

Se desarrolla.

Antes de formar empleados debemos formar directivos

Aquí encontramos otra dificultad frecuente.

Muchas empresas comienzan su adopción de inteligencia artificial capacitando a los empleados.

Aprenda prompts.

Utilice ChatGPT.

Automatice documentos.

Cree presentaciones.

Genere informes.

Pero existe una pregunta previa:

¿La dirección entiende suficientemente la tecnología que está intentando gobernar?

No necesita convertirse en especialista técnico.

Necesita comprender sus implicaciones empresariales.

Un gerente debería poder discutir preguntas como estas:

¿Qué procesos pueden beneficiarse realmente de inteligencia artificial?

¿Qué información nunca debería introducirse en determinadas plataformas?

¿Qué decisiones requieren obligatoriamente intervención humana?

¿Qué riesgos jurídicos, tecnológicos y reputacionales existen?

¿Qué proveedores están procesando nuestra información?

¿Qué debemos documentar?

¿Cómo mediremos productividad?

¿Quién responde por los resultados?

¿Qué controles necesitamos?

Una organización difícilmente puede establecer reglas inteligentes sobre algo que sus dirigentes no comprenden.

Por eso la transformación debe comenzar por liderazgo.

Gobernar no significa impedir

Una empresa necesita reglas.

Eso no está en discusión.

Pero una buena política tecnológica no debería limitarse a una colección de prohibiciones.

Debe explicar.

Qué herramientas están autorizadas.

Para qué pueden utilizarse.

Qué información puede introducirse.

Qué información está restringida.

Cuándo debe existir revisión humana.

Cómo deben verificarse los resultados.

Cómo se reportan errores o incidentes.

Quién tiene responsabilidad sobre cada proceso.

Qué evidencias deben conservarse.

Qué sucede cuando cambia una herramienta.

La diferencia es enorme.

Una prohibición dice:

“No utilice esto”.

Una política de adopción inteligente dice:

“Así utilizamos esta tecnología dentro de nuestra organización”.

La segunda desarrolla capacidades.

La primera solamente establece una barrera.

La inteligencia artificial obliga a revisar procesos

Aquí encontramos una de las oportunidades más importantes.

Antes de automatizar deberíamos observar cómo trabajamos.

En nuestra metodología existe una secuencia que considero esencial:

Diagnóstico funcional.

Primero entendemos la situación.

Planeación estratégica.

Después determinamos qué debería cambiar.

Implementación acompañada.

Finalmente incorporamos herramientas, procesos, responsabilidades y seguimiento.

El orden importa.

Porque comenzar por la herramienta suele generar exactamente el problema contrario.

Compramos tecnología y después intentamos encontrar dónde utilizarla.

Cuando debería ocurrir al revés.

Identificamos el problema.

Comprendemos el proceso.

Definimos el resultado esperado.

Y solamente entonces elegimos la tecnología adecuada.

Si actualmente su organización está pensando en implementar inteligencia artificial, automatización o nuevas plataformas, conviene hacer primero una pregunta sencilla:

¿Tenemos suficientemente claro el proceso que queremos mejorar?

Podemos ayudarle a realizar ese diagnóstico desde una perspectiva empresarial y tecnológica integrada:

https://t.mtrbio.com/todo-en-unonet

La conversación correcta comienza por la empresa, no por la herramienta.

La IA también cambia la responsabilidad

Existe además una idea peligrosa:

“Lo hizo la inteligencia artificial”.

Una organización no puede trasladar su responsabilidad a una herramienta.

Si un sistema genera información incorrecta y alguien la utiliza para tomar una decisión empresarial, debe existir responsabilidad humana.

Si una IA redacta una comunicación equivocada y la empresa la envía, continúa siendo una comunicación de la empresa.

Si una herramienta analiza datos personales, deben mantenerse las obligaciones correspondientes sobre su tratamiento.

Si un sistema automatizado participa en un proceso crítico, la organización necesita mecanismos de supervisión.

Por eso debemos comenzar a incorporar una pregunta nueva en nuestros procedimientos:

¿Quién responde?

No solamente quién utiliza la herramienta.

Quién valida.

Quién autoriza.

Quién supervisa.

Quién documenta.

Quién corrige.

Quién aprende del incidente.

Cuando esas respuestas no existen, el problema no es tecnológico.

Es organizacional.

El Shadow AI debería preocuparnos más que la IA visible

Durante años hablamos de Shadow IT: aplicaciones, servicios y dispositivos utilizados dentro de una empresa sin conocimiento o autorización del área responsable de tecnología.

Ahora debemos incorporar otro concepto:

Shadow AI.

Personas utilizando inteligencia artificial fuera de los mecanismos formales de la organización.

Puede ocurrir por curiosidad.

Por productividad.

Por necesidad.

Porque la empresa no proporciona herramientas adecuadas.

O porque los procedimientos internos son demasiado lentos.

La reacción automática podría ser perseguir cada utilización.

Pero nuevamente estaríamos tratando el síntoma.

También debemos preguntarnos:

¿Por qué las personas buscan esas herramientas?

¿Qué tarea están intentando resolver?

¿Qué fricción existe en nuestros procesos?

¿Qué necesidad no estamos atendiendo?

¿Qué oportunidad de productividad están descubriendo antes que nosotros?

Esta información puede ser extraordinariamente valiosa.

Una organización inteligente no solamente controla comportamientos.

También aprende de ellos.

Los errores pueden convertirse en conocimiento organizacional

Cuando ocurre un incidente tecnológico solemos buscar inmediatamente al responsable.

Naturalmente deben existir responsabilidades.

Pero detenernos allí desperdicia una oportunidad.

También debemos investigar qué permitió que sucediera.

Supongamos que un empleado introdujo información confidencial en una herramienta no autorizada.

Podemos sancionarlo.

Pero también debemos preguntar:

¿Conocía realmente la política?

¿La política era comprensible?

¿Recibió capacitación?

¿Tenía una herramienta corporativa para realizar esa tarea?

¿Existía un procedimiento alternativo?

¿Su jefe conocía cómo estaba trabajando?

¿Habíamos identificado previamente ese riesgo?

Este análisis transforma el error individual en aprendizaje organizacional.

Y allí aparece una empresa más madura.

No una empresa donde nunca ocurre nada.

Eso probablemente no existe.

Una empresa capaz de aprender rápidamente cuando algo ocurre.

La adopción inteligente necesita cinco componentes

Desde una perspectiva funcional, considero que una organización debería construir al menos cinco capacidades alrededor de la inteligencia artificial.

Primero: conocimiento.

Comprender qué tecnologías están utilizando realmente las personas.

Segundo: clasificación.

Determinar procesos, información y niveles de riesgo.

Tercero: reglas.

Establecer políticas sencillas, aplicables y conocidas.

Cuarto: formación.

Desarrollar criterio tecnológico, empresarial, jurídico y ético.

Quinto: seguimiento.

Medir resultados, incidentes, aprendizajes y nuevas necesidades.

Observe algo importante.

La herramienta no aparece primero.

Aparece después de comprender la organización.

Eso es arquitectura.

No necesitamos empresas que teman menos a la tecnología

Necesitamos algo diferente.

Empresas que comprendan mejor lo que están haciendo.

La velocidad de transformación tecnológica probablemente continuará aumentando.

Después de ChatGPT aparecerán nuevas herramientas.

Nuevos agentes.

Nuevas formas de automatización.

Nuevos dispositivos.

Nuevos riesgos.

Nuevas oportunidades.

Intentar construir una organización basada exclusivamente en prohibiciones significa entrar en una carrera imposible.

Cada nueva tecnología exigirá una nueva prohibición.

Cada nuevo comportamiento requerirá otro control.

Cada innovación abrirá otra excepción.

Existe una alternativa mucho más sostenible:

construir organizaciones capaces de adoptar tecnología con criterio.

Eso significa personas formadas.

Procesos claros.

Responsabilidades definidas.

Información protegida.

Liderazgo informado.

Experimentación controlada.

Evaluación permanente.

Y tecnología subordinada a los objetivos empresariales.

La pregunta que debería hacerse la dirección

Tal vez la pregunta no sea:

“¿Permitimos inteligencia artificial?”

Tampoco:

“¿Qué plataforma debemos comprar?”

Ni siquiera:

“¿Cómo evitamos que nuestros empleados utilicen herramientas no autorizadas?”

La pregunta empresarial podría ser mucho más profunda:

¿Qué tipo de organización necesitamos construir para utilizar responsablemente tecnologías que seguirán cambiando?

Cuando hacemos esa pregunta dejamos de reaccionar ante herramientas.

Comenzamos a construir capacidades.

Y esa diferencia determinará probablemente qué organizaciones simplemente consumen tecnología y cuáles realmente consiguen transformarse con ella.

La inteligencia artificial no elimina la necesidad de administración.

La aumenta.

No elimina el liderazgo.

Lo exige.

No elimina el conocimiento.

Lo vuelve más importante.

Y tampoco elimina el criterio humano.

Por el contrario, cuanto más poderosa sea la tecnología, más importante será saber cuándo, cómo, para qué y bajo qué condiciones debemos utilizarla.

Esa es precisamente la razón por la cual en TODO EN UNO.NET no concebimos la inteligencia artificial como un producto aislado. La abordamos desde una Arquitectura de Adopción Inteligente (AAI), conectando personas, procesos, información, tecnología, riesgos, formación y resultados.

Si su organización está utilizando IA, pensando en incorporarla o simplemente sospecha que sus colaboradores ya la están utilizando informalmente, el punto de partida no debería ser comprar ni prohibir.

Debería ser comprender.

https://t.mtrbio.com/todo-en-unonet

Porque antes de decidir qué tecnología necesita una empresa debemos entender qué empresa estamos intentando construir.

Julio César Moreno Duque
Fundador – TODO EN UNO.NET
"Nunca la tecnología por la tecnología en sí misma; sino la tecnología por la funcionalidad."

Arquitectura: Arquitectura de Adopción Inteligente (AAI).

TODO EN UNO.NET

Queremos darle a conocer nuestra EMPRESA creada en 1995. Todo En Uno.Net S.A.S es fundadora de la Organización Empresarial Todo En Uno.NET. Todo En Uno.Net S.A.S. es una empresa especializada en brindar CONSULTORIAS Y COMPAÑAMIENTO en el área tecnológica y administrativa basándonos en la última información tecnológica y de servicios del mercado, además prestamos una consultoría integral en varias áreas como son: CONSULTORIAS TECNOLOGICAS, CONSULTORIAS EMPRESARIALES, CONSULTORIA MERCADEO TECNOLÓGICO, CONSULTORIA EN TRATAMIENTO DE DATOS PERSONALES, Y con todos nuestros aliados en la organización TODO EN UNO.NET

Publicar un comentario

Esperamos sus comentarios

Artículo Anterior Artículo Siguiente