Los agentes de inteligencia artificial comienzan a pasar de responder preguntas a tomar decisiones y ejecutar tareas. Pero, para que realmente generen valor, las empresas necesitan algo más que tecnología: procesos claros, datos confiables, supervisión humana y reglas que definan hasta dónde pueden actuar.
La inteligencia artificial agéntica está cambiando la conversación tecnológica dentro de las organizaciones. El interés ya no se limita a utilizar herramientas que redacten textos, analicen información o respondan consultas, sino a desarrollar sistemas capaces de ejecutar acciones para alcanzar objetivos de negocio.
Sin embargo, dar una instrucción no garantiza que el resultado sea el esperado. Un agente puede cumplir su objetivo y, al mismo tiempo, tomar decisiones que comprometan controles, costos o la relación con un cliente. Esta fue una de las principales reflexiones del panel “AI Agéntica: La capa que convertirá cada proceso en un sistema vivo”, donde representantes de distintos sectores compartieron sus experiencias con una tecnología que todavía está en proceso de aprendizaje y adopción.
El riesgo no está solo en lo que hace la IA, sino en cómo se le pide hacerlo
Un agente de inteligencia artificial busca cumplir el objetivo que se le asigna. El problema aparece cuando la instrucción es demasiado general y no establece límites claros.
Si una empresa le pide aumentar las ventas, por ejemplo, un agente podría recurrir a descuentos cada vez mayores para alcanzar la meta, incluso cuando esa estrategia afecte la rentabilidad. El resultado podría cumplir el indicador solicitado sin responder a lo que realmente necesita el negocio.
La discusión puso sobre la mesa una responsabilidad fundamental: definir las restricciones, los permisos y los criterios que delimitan las acciones de cada agente. No basta con indicar qué debe conseguir; también es necesario establecer qué puede hacer, qué decisiones requieren autorización y en qué situaciones debe detenerse.
José Luis Mendoza, gerente senior de Digitalización en Grupo Bafar, destacó la importancia de evaluar los casos de uso antes de liberar un agente. Probar distintos escenarios y comparar sus respuestas con las decisiones que tomaría una persona permite identificar errores y ajustar su comportamiento antes de llevarlo a la operación.
La autonomía, por tanto, no debería otorgarse de una sola vez. Es una capacidad que debe ampliarse gradualmente, conforme la organización comprueba que el agente funciona dentro de los parámetros esperados.
No todos los procesos necesitan un agente
En medio del entusiasmo por la IA, existe el riesgo de convertir cualquier necesidad de automatización en un proyecto de agentes. Sin embargo, no todos los procesos requieren sistemas capaces de tomar decisiones.
Pedro Moya, Head of IT de Quaker State, señaló que los agentes pueden ayudar a automatizar procesos y formatos, particularmente en organizaciones que todavía dependen de herramientas como Excel y necesitan avanzar hacia una gestión de datos más estructurada.
Por su parte, Mendoza planteó una distinción importante: cuando un proceso sigue reglas fijas y no necesita tomar decisiones, una automatización tradicional puede ser suficiente. Incorporar un agente a una tarea determinista podría añadir complejidad y consumo de recursos sin generar un beneficio adicional.
La elección debe comenzar con una pregunta de negocio: ¿qué problema se busca resolver? A partir de ahí, es posible determinar si basta con automatizar una secuencia de pasos o si realmente se necesita un sistema que interprete información, evalúe alternativas y ejecute acciones.
Esta decisión también ayuda a evitar proyectos que nacen por tendencia tecnológica, pero carecen de un propósito concreto.
La autonomía tiene límites, y la responsabilidad sigue siendo humana
Cuando un agente ejecuta una acción incorrecta, la pregunta no es únicamente qué falló en la tecnología, sino quién autorizó su funcionamiento, qué controles existían y quién debía supervisar el resultado.
Adrián Alva, CISO en Institución Fnanciera, compartió la perspectiva del sector financiero, donde la supervisión es especialmente relevante cuando una herramienta puede intervenir en operaciones sensibles. En procesos como pagos o transferencias, explicó, debe existir una persona que conserve la última decisión y valide la ejecución.
Su experiencia también mostró que automatizar no siempre significa mejorar la experiencia del cliente. La institución llegó a retirar un agente de atención al cliente porque no lograba ofrecer el trato directo que representaba una parte importante de su propuesta de valor. A partir de esa experiencia, el uso de agentes se orientó al apoyo de actividades, mientras que la atención personal permaneció en manos humanas.
El aprendizaje es relevante para cualquier industria: la tecnología debe responder a las necesidades del negocio, no desplazar automáticamente las capacidades humanas que generan valor.
Además, la responsabilidad no desaparece cuando una tarea se delega a un agente. En el panel se señaló que las decisiones de diseño, autorización, implementación y asignación de permisos forman parte de una cadena de responsabilidades compartidas. En última instancia, la empresa debe tener claridad sobre quién responde por las acciones que ejecuta el sistema.
Por eso, los participantes destacaron la necesidad de contar con mecanismos de supervisión y un botón de paro independiente que permita detener la operación si algo sale mal.
La gobernanza debe llegar antes que la implementación
La supervisión de los agentes no puede limitarse a revisar sus resultados cuando ya están en funcionamiento. También requiere atender los riesgos del entorno tecnológico en el que operan.
Un agente hereda las vulnerabilidades de los sistemas, servidores, permisos e infraestructura con los que interactúa. Aunque esté bien diseñado, puede convertirse en un riesgo si trabaja sobre plataformas desactualizadas o tiene acceso a recursos que no necesita.
A esto se suma el uso de herramientas de IA sin controles corporativos claros. Cuando los colaboradores comparten información de la empresa en plataformas no autorizadas, pueden generar riesgos de exposición de datos y pérdida de control sobre la información.
Mendoza explicó que en Grupo Bafar se trabaja con un comité de gobernanza de inteligencia artificial que involucra áreas como datos, infraestructura, sistemas, digitalización y planeación. La intención es establecer criterios comunes para el uso de estas herramientas y evitar que su adopción avance sin reglas compartidas.
La gobernanza también debe contemplar los permisos de cada agente, la protección de información, las pruebas previas al despliegue y la posibilidad de detener o retirar una solución que no esté funcionando como se esperaba.
Esperar a que exista una regulación específica para cada escenario no elimina la necesidad de actuar desde ahora. Los panelistas coincidieron en la importancia de establecer controles internos y tomar como referencia buenas prácticas que ayuden a gestionar los riesgos desde el inicio.
El éxito se define antes de construir el agente
Una de las dificultades de los proyectos de IA es que pueden permanecer durante meses en fase piloto sin demostrar un beneficio claro. La novedad tecnológica despierta interés, pero no sustituye la necesidad de establecer criterios para evaluar resultados.
Mendoza destacó la importancia de definir indicadores clave de desempeño (KPI) desde el inicio. Si un agente busca mejorar la atención al cliente, por ejemplo, la organización necesita precisar qué cambio espera conseguir y cómo lo medirá. Sin esa referencia, resulta difícil distinguir entre una implementación exitosa y una solución que consume recursos sin resolver el problema original.
La adopción también depende de las personas que utilizarán la herramienta. Moya compartió cómo comenzó a desarrollar agentes para atender necesidades operativas y reducir la carga de trabajo de algunas áreas. En su experiencia, mostrar soluciones funcionales ayudó a disminuir la resistencia inicial y facilitó que los equipos se involucraran en nuevas iniciativas.
Por su parte, Mendoza describió un proceso que comienza con el descubrimiento de necesidades, continúa con el diseño de prototipos funcionales y avanza hacia el desarrollo y despliegue con participación constante del usuario. La capacitación y el acompañamiento son parte esencial de ese recorrido.
El objetivo no es implementar agentes por el simple hecho de hacerlo, sino comprobar que resuelven una necesidad, se integran al trabajo cotidiano y producen resultados medibles.
Convertir cada proceso en un sistema vivo exige mantener el control
La IA agéntica abre posibilidades para agilizar operaciones, apoyar decisiones y reducir tareas repetitivas. Pero también exige que las empresas reconsideren cómo diseñan sus procesos, asignan responsabilidades y supervisan la tecnología que incorporan.
Los aprendizajes del panel apuntan a una misma dirección: identificar primero el problema, elegir la solución adecuada, definir límites de autonomía, probar distintos escenarios y medir los resultados. A ello se suman la gobernanza, la seguridad y la participación de las personas que convivirán con estos sistemas.
La ventaja no estará necesariamente en tener más agentes, sino en saber dónde utilizarlos, qué decisiones pueden tomar y cómo intervenir cuando sus resultados se desvían de lo esperado.
Porque convertir un proceso en un sistema vivo no significa dejarlo actuar sin supervisión. Significa construir una operación capaz de adaptarse, aprender de sus resultados y generar valor sin perder de vista quién tiene el control.
