Por Gabriel Andrés Arévalo-Robles, director Nacional de Investigaciones.
A más de 30 grados, en una Cartagena húmeda y luminosa, cientos de personas comenzaron a reunirse para hablar sobre inteligencia artificial, negocios y transformación digital. El pasado lunes 31 de agosto fue el primer día de ANDICOM 2026 y, antes de las grandes conferencias de los días siguientes, la agenda abrió con las Business Impact Sessions, una jornada concebida alrededor de casos reales, decisiones empresariales e impactos directos sobre el negocio.
Por los salones pasaron representantes de la construcción, la consultoría, los servicios jurídicos, las soluciones tecnológicas y el acompañamiento organizacional. Intervinieron, entre otros, Jorge Mario Añez Ruiz, de PwC Colombia; Juan Manuel Díaz Guerrero, de Cremades & Calvo-Sotelo; Juan Carlos Moncada Zapata, de Momentto; Fernando Acosta Martín, de ServiceLab AI; Daniel Sánchez Prieto y Andrés Valderrama, de Constructora Las Galias, además de integrantes de CINTEL y de su Centro de Competencia en Inteligencia Artificial y Automatización Empresarial.
Más que una conversación académica sobre la inteligencia artificial, logramos ver la mirada de un conjunto concreto de organizaciones que ya sienten sus efectos sobre el trabajo, la productividad, la información, las responsabilidades de los directivos y la relación con sus empleados. Precisamente por eso resultó interesante escucharla como representante de la universidad. La incorporación de la IA no se discute solamente en las aulas o en los centros de investigación. En todos los sectores se viven debates intensos, incertidumbres y preocupaciones sobre una tecnología que comenzó a instalarse en la vida cotidiana antes de que alcanzáramos a definir con claridad sus reglas.
Quizás la primera coincidencia de todas las intervenciones fue que la inteligencia artificial puede presentarse como un asunto tecnológico, pero, en realidad, no lo es. O, al menos, no lo es principalmente. Detrás de cada herramienta aparecen personas, decisiones, relaciones de confianza, responsabilidades y formas de organizar el trabajo. Ese fue, a mi juicio, el argumento principal expresado en las conferencias, paneles y casos empresariales. Veamos con detalle el desarrollo de este consenso.
La IA ya entró en las organizaciones
El primer consenso fue que la inteligencia artificial dejó de ser un experimento aislado. Ya no permanece encerrada en pruebas de concepto ni en los departamentos de tecnología. Actualmente ha entrando en las tareas ordinarias de las empresas, muchas veces por iniciativa de los propios trabajadores y antes de que las organizaciones sepan exactamente dónde se utiliza y cómo.
Jorge Mario Añez Ruiz planteó tres preguntas que condensaron buena parte de la preocupación empresarial: ¿sabemos dónde está siendo utilizada la IA dentro de la organización?, ¿sabemos qué decisiones estamos delegando en ella?, ¿sabemos quién responde cuando se equivoca? Las preguntas parecen sencillas, pero revelan un cambio profundo de lo que hacían, por ejemplo, los gerentes. Una empresa puede adquirir formalmente determinadas plataformas y, al mismo tiempo, desconocer cuántos empleados emplean cuentas personales de ChatGPT, Gemini, Claude u otros servicios para procesar información corporativa.
A ese uso no registrado se le denominó Shadow AI (casi todos hablaron de esto). El problema no consiste solamente en que un empleado use una herramienta sin autorización. Parece que esto podía verse incluso como una ganancia. El asunto es que hay que preguntarse qué datos introduce, qué recomendaciones recibe, qué decisiones adopta con base en ellas y qué información sensible puede quedar expuesta. La IA puede estar transformando una organización desde abajo, de manera dispersa y silenciosa, mientras sus políticas oficiales continúan rezagadas. Con frecuencia nadie sabe qué hace el otro en la empresa con la IA.
Prohibir tampoco es gobernar
El gran problema que lo anterior supone abre el debate sobre si prohibir la inteligencia artificial reduce o no dichos riesgos y problemas. El consenso es que prohibir puede incluso ocultar o agravar el problema. Cuando las personas perciben que una herramienta les ayuda a trabajar con mayor rapidez, pero la organización no les ofrece alternativas autorizadas, es probable que recurran a soluciones personales y dejen de informar que las utilizan.
Digamos que los panelistas vieron que gobernar la IA no significa apagarla. Aunque tampoco significa permitir cualquier uso. La preocupación compartida fue encontrar un punto en el cual los controles protejan la información y las decisiones sin eliminar la experimentación. Fernando Acosta Martín dijo que con muy poco control se ponen en riesgo la confidencialidad y la organización, pero con un control absoluto se puede sofocar la creatividad y disminuir el valor que se esperaba obtener.
Esta idea cambia el sentido de la gobernanza porque ya no se presenta únicamente como cumplimiento normativo o como una lista de restricciones. Se entiende como una condición para innovar con confianza. Sin reglas, responsabilidades y evidencia, un error puede detener toda la transformación. Con controles proporcionados, en cambio, la organización puede aprender, corregir y ampliar los usos que demuestren valor. Enunciado así quedan más preguntas que respuestas. En todo caso, queda un camino por buscar el equilibrio y eso parece que será el siguiente paso del ejercicio ¿Qué es equilibrio? y ¿Cómo se materializa?
La IA no pertenece al departamento de tecnología
La tercera coincidencia fue quizá muy reiterada y es que la inteligencia artificial no puede quedar exclusivamente en manos del área de tecnología. Cada aplicación combina conocimiento técnico con decisiones de negocio, condiciones jurídicas, manejo de personas, seguridad, cumplimiento y comprensión del proceso sobre el cual actúa.
Juan Manuel Díaz Guerrero llevó el debate al terreno de la responsabilidad. Recordó que los administradores y miembros de juntas directivas tienen deberes de buena fe, lealtad y diligencia. Por esa razón, no sería sencillo trasladar toda la responsabilidad a un proveedor cuando las decisiones fundamentales siguen perteneciendo a la empresa. La alta dirección no puede desentenderse de la gobernanza de la IA con el argumento de que se trata de un problema técnico.
Los panelistas propusieron comités transversales en los que participen la dirección, las áreas jurídicas, recursos humanos, operación, innovación, negocio, riesgos y cumplimiento. Más que crear una nueva capa burocrática, la idea consiste en hacer visible quién decide, qué riesgos se aceptan y quién debe intervenir cuando un sistema recomienda o ejecuta una acción.
Aquí resultó especialmente útil la distinción de Añez Ruiz entre información, recomendación y decisión. No es lo mismo utilizar IA para ordenar antecedentes que pedirle que sugiera un curso de acción; tampoco es igual recibir una recomendación que permitirle actuar directamente. Cuanto mayor sea el impacto de la decisión, mayor debe ser el nivel de gobierno y supervisión.
Las personas no son solamente un riesgo
Las discusiones sobre Shadow AI podrían conducir a mirar a los trabajadores como una amenaza que debe ser vigilada. Sin embargo, otro consenso corrigió esa lectura al decir que las personas también poseen el conocimiento indispensable para que la transformación funcione.
La experiencia de Constructora Las Galias fue clara en este punto. Daniel Sánchez Prieto y Andrés Valderrama relataron un proceso de varios años que avanzó desde la sistematización y la digitalización hacia la automatización y la incorporación de agentes. La empresa decidió formar capacidades internas y apoyar las iniciativas de quienes conocen directamente los procesos. Según lo expuesto por sus representantes, el 70 % del éxito de una automatización o agentización depende de las personas que conocen el proceso y el 30 % de la tecnología.
Uno de los ejemplos mostró por qué ese conocimiento importa. Un agente diseñado para calcular una tasa interna de retorno entregó resultados equivocados porque no capitalizaba los intereses. La herramienta podía realizar la operación, pero necesitaba la revisión de alguien capaz de reconocer el error. El usuario experto no desaparece, por el contrario, se convierte en contraparte crítica del agente. Y claro, esto para la Universidad encargada de formar profesionales es importante, pues si personas con conocimientos expertos, las empresas y tampoco organización alguna podrá avanzar.
Las Galias presentó además una idea que merece conservarse. Ellos contaron que una parte importante de la transformación ya está dentro de la nómina. Afirmaron que está en los maestros de obra, analistas, profesionales y trabajadores que conocen los problemas cotidianos. Sus empleados saben de IA, la incorporán, lo hablan, es parte de su vida diaria y el saber está en la misma empresa, no fuera en consultoras pagadas.
No se deben automatizar los errores
Otro punto de encuentro fue la necesidad de revisar los procesos antes de incorporar tecnología. La velocidad de la IA puede crear la ilusión de que cualquier actividad debe automatizarse. Sin embargo, automatizar un procedimiento mal diseñado solo permite reproducir sus errores con mayor rapidez y a mayor escala.
En Las Galias, la incorporación tecnológica fue precedida por ejercicios de desaprendizaje, cuestionamiento y reingeniería. Esta experiencia empresarial coincidió con la insistencia de otros participantes en comenzar por el problema y no por la herramienta. Antes de desarrollar un agente es necesario saber qué necesidad resuelve, qué valor se espera, cómo se medirá el resultado y qué riesgos está dispuesta a asumir la organización.
Fernando Acosta Martín propuso que los directivos observen al menos tres dimensiones como serían el valor económico, el riesgo y el cumplimiento. Un agente no debería evaluarse solamente porque funciona. También habría que establecer cuánto cuesta construirlo y mantenerlo, qué beneficio genera, qué daños podría producir y si sus acciones respetan las obligaciones aplicables.
Gobernar durante todo el ciclo de vida
También hubo coincidencia en que la gobernanza no termina cuando una solución entra en funcionamiento. Las organizaciones necesitan inventarios de herramientas, modelos, prompts y agentes; responsables identificables; pruebas; seguimiento de calidad; documentación de cambios y criterios para retirar aquello que se vuelve obsoleto o riesgoso.
Este punto adquiere mayor importancia con los agentes de IA. Un asistente puede producir un texto o responder una pregunta. Un agente, en cambio, puede consultar fuentes, conectarse con sistemas, ejecutar tareas y actuar con distintos grados de autonomía. La capacidad de acción aumenta el valor potencial, pero también amplía las consecuencias de los errores.
Por eso la supervisión humana debe diseñarse y no limitarse a una declaración general. Puede existir una persona dentro del ciclo, revisando y aprobando una acción, o un control externo que vigile un proceso automatizado. Una idea interesante, un nuevo cargo, quizás. Lo importante es determinar dónde interviene, qué verifica y qué evidencia queda disponible cuando sea necesario reconstruir una decisión.
De las preocupaciones a una hoja de ruta
Al final de la jornada, CINTEL intentó llevar estas preocupaciones a un terreno operativo. Desde su Centro de Competencia en Inteligencia Artificial y Automatización Empresarial presentó una hoja de ruta para pasar de las ideas a pilotos concretos y, posteriormente, a un sistema organizacional de agentes.
La propuesta de CINTEL planteó una ruta gradual para incorporar agentes de inteligencia artificial. Plantearon un método que consiste en comenzar con tareas específicas, dotarlos de contexto y memoria, definir beneficios, límites, herramientas y permisos, y probarlos bajo supervisión humana antes de escalarlos. El proceso debía incluir responsables, mantenimiento y mediciones de productividad, calidad, costos y riesgos, convirtiendo las preocupaciones sobre control, información y responsabilidad en una secuencia concreta de decisiones.
Al finalizar la jornada, quedó claro que la IA no transforma por sí sola a las organizaciones, más bien lo hacen las decisiones humanas sobre su uso, la información que recibe, el poder que se le concede y las responsabilidades que se conservan.
