El avance de la Inteligencia Artificial (IA) ha dejado de ser una proyección a futuro para convertirse en el epicentro de la estrategia y del riesgo empresarial actual. Durante la más reciente edición del Neuron Security Summit, líderes y expertos de la industria se dieron cita en el panel “La Nueva Frontera: IA y Ciberseguridad – El Costo de no Estar Preparado”, un espacio donde se desmitificó el uso de esta tecnología y se pusieron sobre la mesa las vulnerabilidades reales a las que se enfrentan las organizaciones en América Latina.
El debate, moderado magistralmente por Erwin Campos (Former Global CISO & Presidente Nacional de Ciberseguridad de COPARMEX), dejó una conclusión contundente: mientras las empresas adoptan la IA de forma fragmentada para agilizar operaciones, los atacantes la están utilizando con “esteroides” para quebrar el activo más valioso de cualquier negocio: la confianza.
El gran vacío: Operación sin Gobierno
Uno de los puntos más críticos del encuentro fue la falta de estructuras internas. Roberto Gómez, CISO de VALMEX, advirtió que en la mayoría de las organizaciones la IA está siendo impulsada por el área de negocio o marketing, y no bajo una estrategia de seguridad: “Nos está comiendo el hecho de que no hay un gobierno de la IA. No sabemos qué datos se están subiendo ni qué se está haciendo con ellos”, señaló, comparando este fenómeno con la llegada de la nube hace una década, pero con una agravante: esta vez, el usuario final tiene el control total de la herramienta sin medir las precauciones.
Ataques con esteroides y la suplantación de la identidad
La evolución del fraude financiero ha alcanzado niveles alarmantes gracias a los deepfakes y el phishing hiperpersonalizado. Rogelio Sifuentes, VP Protective Services & Life Safety Manager en BANK OF AMERICA, ejemplificó el riesgo con casos globales donde llamadas tripartitas fraudulentas con clones de voz y video de directivos terminaron en desfalcos multimillonarios. “Ya no se está atacando realmente la estructura técnica; se está atacando la confianza del usuario”, afirmó.
Por su parte, Carlos Bravo, CISO de SPIN, aportó datos crudos sobre la realidad regional, recordando que, según estadísticas recientes, el 70% de los mexicanos ni siquiera sabe qué es un deepfake. “Antes, para clonar una voz, necesitabas minutos de grabación; hoy bastan una foto y 10 segundos de audio para crear una amenaza certera y fácil de creer”, apuntó Bravo, enfatizando la necesidad de construir organizaciones verdaderamente resilientes.
Responder a “Velocidad Máquina”
Ante amenazas automatizadas, la respuesta humana tradicional (como los equipos SOC) resulta insuficiente. Fernando Villalobos, Enterprise Account Executive en ABNORMAL, explicó que las tasas de evasión de los correos maliciosos sofisticados han subido drásticamente, llegando a las bandejas de entrada antes de que los controles tradicionales lo noten. La solución, de acuerdo con Villalobos, radica en la IA Comportamental: “El reto actual es cómo respondes a velocidad máquina. Debemos usar la IA a nuestro favor para detectar anomalías en milisegundos y bloquearlas de inmediato”.
Reconfigurar el Presupuesto y el Criterio Humano
Hacia el cierre del panel, los expertos coincidieron en que la priorización del presupuesto de ciberseguridad debe basarse en un análisis de riesgo riguroso y no en la compra impulsiva de “juguetes caros”. Asimismo, se hizo un llamado urgente a regresar a las bases: la concientización y el desarrollo del criterio humano.
Frente al sesgo y las “alucinaciones” inherentes a los modelos de lenguaje, el criterio y la educación de los colaboradores siguen siendo la primera y más efectiva línea de defensa. La Inteligencia Artificial llegó para potenciar al humano, no para reemplazarlo; el verdadero peligro radica en no subirse a la ola a tiempo.
El panel concluyó con un espacio de preguntas y respuestas que abrió el diálogo hacia la gobernanza, la nueva propuesta de ley de IA en el Senado y la resiliencia en la cadena de suministro, dejando un excelente sabor de boca antes de dar paso al cóctel de networking que cerró con broche de oro esta edición del cumbre.