IA generativa en manos de atacantes: la guía que tu empresa necesita antes de ser el próximo caso de estudio

El problema no es que venga la IA. Es que ya llegó.

Hay una diferencia importante entre "la IA podría usarse para atacar empresas en el futuro" y "la IA ya se está usando para atacar empresas ahora mismo". Estamos en el segundo escenario.

Según Malwarebytes, los atacantes emplean IA generativa para crear deepfakes de audio y vídeo con datos mínimos, suplantando identidades de directivos o familiares en estafas que elevan el fraude financiero y la fuga de datos a un nivel que los controles tradicionales no están diseñados para detectar. No hablamos de algo experimental ni de un laboratorio de investigación. Hablamos de herramientas accesibles que cualquiera con motivación suficiente puede hoy.

El quid de la cuestión es este: la IA ha democratizado la sofisticación. Antes, para lanzar un ataque de ingeniería social creíble necesitabas habilidad, tiempo y conocimiento del objetivo. Ahora necesitas datos públicos y un modelo generativo. Eso está al alcance de mucha más gente de la que te gustaría.

Y mientras los atacantes han actualizado su arsenal, la mayoría de empresas siguen gestionando la ciberseguridad con la mentalidad de 2019: antivirus de firma, política de contraseñas que nadie cumple y formación anual que nadie recuerda. Esa brecha es el problema real.

Qué hace exactamente la IA en manos de un atacante

Antes de hablar de defensa, conviene entender el ataque. No para asustarse, sino para saber exactamente qué tienes que contrarrestar.

Phishing que ya no puedes detectar a ojo

El phishing de toda la vida era fácil de identificar: faltas de ortografía, remitentes raros, el príncipe nigeriano de turno. Ese phishing ha muerto.

El phishing automatizado con IA genera correos personalizados analizando grandes volúmenes de datos personales del objetivo, según DPSS LA County. El modelo sabe cómo te llamas, en qué empresa trabajas, con quién has interactuado en LinkedIn, qué proyectos mencionas en público y cuál es el estilo de escritura de tu jefe. Con eso, genera un correo que parece enviado por alguien de tu confianza, con contexto real, sin errores y con un pretexto que tiene sentido para ti en ese momento concreto.

La tasa de éxito sube. La detección manual baja. Es matemática, no magia.

Deepfakes de voz y vídeo para estafas directas

Esto es donde la cosa se pone especialmente chunga para las empresas. Según Malwarebytes, los atacantes crean deepfakes de audio y vídeo con datos mínimos. ¿Cuántos datos mínimos? Los que hay en cualquier vídeo público de un directivo, en una entrevista de podcast o en una grabación de una conferencia.

Con eso, pueden clonar la voz del CEO y llamar al departamento financiero pidiendo una transferencia urgente. Pueden generar un vídeo del director de operaciones dando instrucciones en una videollamada. El receptor no tiene ninguna razón técnica para desconfiar si no existe un protocolo de verificación previo.

Chatbots fraudulentos que suplantan servicios legítimos

Otro vector que recoge DPSS LA County: chatbots fraudulentos en sitios web falsos o en plataformas de atención al cliente que suplantan servicios legítimos. Un empleado entra en lo que cree que es el portal de soporte de su proveedor de software, interactúa con un chatbot que parece real, y acaba entregando credenciales o información financiera sin que nada le haya parecido raro.

La IA ha hecho que la interacción con estos chatbots sea indistinguible de la real. El lenguaje es natural, el flujo de conversación es coherente y las respuestas se adaptan a lo que dice el usuario.

Malware que aprende a esquivarte

Y luego está el lado más técnico: las herramientas de IA generativa abaratan la creación de código malicioso evolutivo capaz de eludir sistemas de seguridad basados en firmas, según Malwarebytes. Esto significa que el malware puede mutar para parecer diferente cada vez que un antivirus lo escanea. Si tu defensa depende de reconocer patrones conocidos, estás jugando a un juego que ya perdiste.

La respuesta defensiva obliga a pasar de detección por firma a detección por comportamiento. No "¿este archivo parece un virus conocido?" sino "¿este proceso está haciendo cosas que ningún proceso legítimo debería hacer?".

El vector que nadie vigila: tus propios empleados con IA

Hay un riesgo que Malwarebytes señala específicamente y que casi ninguna empresa tiene en el radar: el creciente hábito de compartir información sensible con sistemas de IA expone a los usuarios a violaciones de datos.

Traducido: tu empleado de finanzas que pega un contrato en ChatGPT para que le haga un resumen. El de recursos humanos que sube una hoja de cálculo con datos de nóminas a una herramienta de IA pública para analizarla. El comercial que comparte el CRM completo con un asistente de IA para preparar una presentación.

Ninguno de ellos tiene malas intenciones. Todos están creando un problema de seguridad real.

Según DPSS LA County, las empresas deben instruir a sus empleados en no compartir Información Personal Identificable (IPI), como números de seguridad social o datos financieros, al aplicaciones de IA públicas, siguiendo las políticas de privacidad corporativas. El problema es que la mayoría de empresas no tienen esa política. Y las que la tienen, no la hacen cumplir.

Los cinco movimientos que necesitas hacer ahora

1. Simulación de phishing con IA: entrena antes de que te ataquen

El objetivo es que tu equipo sepa reconocer correos generados por modelos de lenguaje, que ya no tienen las señales de alerta clásicas.

Cómo se hace:

Entra en tu plataforma de concienciación de seguridad (GoPhish si vas por libre, KnowBe4 o Proofpoint Security Awareness si tienes presupuesto).
Crea una campaña nueva y selecciona plantillas de phishing avanzado: las que simulan correos de proveedores conocidos, solicitudes de RRHH o alertas de seguridad internas.
Activa la personalización por rol o departamento. Un ataque real va a contexto específico; tu simulación también.
Lanza sin avisar. Si avisas, mides la atención al correo, no la vulnerabilidad real.

Tip crítico: configura el seguimiento para segmentar tres grupos: quien hizo clic, quien introdujo credenciales y quien reportó el correo. Son tres perfiles de riesgo completamente distintos que necesitan respuestas distintas. El que reporta es tu activo más valioso; reconócelo. El que introduce credenciales es tu urgencia número uno.

2. MFA resistente a phishing (FIDO2 / Passkeys): elimina la contraseña como eslabón débil

Un ataque de ingeniería social generado por IA puede extraerte una contraseña en segundos. La autenticación multifactor basada en SMS o en OTP por correo tampoco es suficiente: se puede interceptar o engañar. FIDO2 y las Passkeys no se pueden phishear porque la clave nunca sale del dispositivo del usuario.

Cómo se activa:

Entra en tu panel de administración de identidades: Azure AD (ahora Entra ID), Okta o Google Workspace Admin.
Ve a Métodos de autenticación (o Security > Authentication methods en Entra).
Desactiva SMS y OTP por correo como factores válidos.
Activa FIDO2 Security Keys o Passkeys como único factor adicional permitido.

Tip: empieza por los usuarios con acceso a sistemas críticos: producción, finanzas, RRHH, dirección. Si no puedes hacer el rollout completo esta semana, al menos bloquea el acceso a entornos de producción sin FIDO2. El riesgo no está distribuido uniformemente; prioriza donde el daño sería mayor.

3. Monitorización de comportamiento anómalo (UEBA): detecta la cuenta comprometida antes de que haga daño

Cuando una cuenta se compromete, el atacante empieza a moverse por la red. UEBA (User and Entity Behavior Analytics) detecta ese movimiento comparándolo con el comportamiento histórico normal del usuario. Una cuenta que accede a 200 archivos a las 3 de la mañana desde una IP nunca vista es una anomalía; sin UEBA, nadie se entera hasta que el daño está hecho.

Cómo se configura:

En tu SIEM (Splunk, Microsoft Sentinel, Elastic Security), localiza el módulo de UEBA o las reglas de comportamiento anómalo.
Define un período de línea base de 14 días mínimo. El sistema necesita aprender qué es "normal" para cada usuario antes de poder detectar lo que no lo es.
Configura alertas para desviaciones por encima del umbral que marque la herramienta (suele ser percentil 95 por defecto).

Tip: no bajes el umbral demasiado al principio. Si lo pones muy sensible, te inundas de falsos positivos y tu equipo empieza a ignorar las alertas, que es exactamente lo contrario de lo que quieres. Empieza en el percentil 95 y ajusta hacia abajo conforme tu equipo aprende a distinguir el ruido de la señal real.

4. Gestión de superficie de ataque externa (EASM): sabe lo que tienes expuesto antes que el atacante

Según Malwarebytes, los atacantes usan IA para automatizar la búsqueda de vulnerabilidades. Eso significa que escanean tu superficie de ataque más rápido y con más detalle de lo que tú la monitorizas. EASM invierte esa ecuación.

Cómo se usa:

Con Shodan o Censys (ambos tienen versión gratuita limitada), busca tu dominio principal y todos los subdominios activos.
Exporta la lista de puertos abiertos, servicios expuestos y certificados SSL caducados o próximos a caducar.
Filtra específicamente por servicios que no deberían estar expuestos públicamente: RDP (puerto 3389), SMB (445), paneles de administración web, bases de datos con acceso directo.

Tip: cada servicio innecesariamente expuesto es una puerta abierta. No hace falta un ataque sofisticado para aprovecharla; basta con saber que existe. Si tienes un panel de administración de un router o un servidor accesible desde internet sin restricción de IP, eso es lo primero que cierra un atacante cuando quiere entrar y lo primero que cierras tú cuando quieres que no entren.

5. Control de accesos OAuth a herramientas de IA internas: cierra el vector que nadie vigila

Este es el punto ciego de la mayoría de empresas. Los empleados conectan herramientas de IA de terceros a correo corporativo, Drive, SharePoint o el CRM sin que nadie lo sepa ni lo apruebe. Cada una de esas conexiones es un acceso potencial a datos sensibles que no pasa por ningún control de seguridad.

Cómo se hace:

En Google Workspace Admin, ve a Seguridad > Controles de API > Administrar el acceso de aplicaciones de terceros.
En Azure AD (Entra), ve a Aplicaciones empresariales y filtra por aplicaciones con permisos de usuario concedidos.
Revisa qué aplicaciones tienen acceso a correo, calendario, archivos o datos de directorio.
Revoca los accesos no autorizados o no reconocidos. Si no sabes qué hace una aplicación, no debería tener acceso a tus datos.

Tip: activa la política de pre-aprobación para nuevas integraciones OAuth. Así, cuando un empleado quiera conectar una herramienta de IA nueva, el acceso queda pendiente de aprobación en lugar de concederse automáticamente. Es un paso extra de fricción que vale lo que pesa en oro.

Los protocolos humanos que complementan la tecnología

La tecnología sola no cierra el problema. Según DPSS LA County, hay tres medidas de bajo coste y alto impacto que cualquier empresa puede implementar sin presupuesto:

Código de seguridad verbal. Establece una palabra o frase clave entre los miembros del equipo (y con familiares si la empresa tiene exposición a estafas de clonación de voz) para verificar identidades en llamadas inesperadas. Si alguien que dice ser el CFO llama pidiendo una transferencia urgente, el protocolo es pedir la palabra clave. Sin ella, no se ejecuta ninguna acción.

Verificación por canal separado. Ante cualquier contacto inesperado por teléfono o mensaje, no interactuar directamente. Colgar, buscar el número oficial de la organización en su web y devolver la llamada. Este paso simple elimina la mayoría de estafas de deepfake de voz.

Reducción de exposición en redes sociales. Los atacantes usan IA para analizar datos públicos y personalizar engaños. Mantener las cuentas de redes sociales en modo privado y limitar la información compartida reduce la cantidad de material disponible para construir un ataque de ingeniería social creíble. Menos datos públicos, menos munición para el modelo generativo del atacante.

Los dos errores que convierten todo esto en decoración

El primero: pensar que ciberseguridad es un problema del equipo de IT. No lo es. Si el CEO, el CFO o el director de operaciones no tienen MFA resistente a phishing, no importa lo que hagas con el resto de la organización. Los atacantes van a por los que tienen más acceso y más poder de decisión. Empezando por arriba o no empiezas.

El segundo: lanzar la simulación de phishing, ver los resultados y no hacer nada con ellos. El dato sin acción es decoración. Si el 40% de tu equipo hizo clic en el correo simulado, tienes un problema que no se resuelve mirando el informe. Se resuelve con formación diferenciada, con cambios en los controles técnicos y con una segunda simulación en 30 días para medir si algo cambió.

Registra todo lo sospechoso. Todo.

Un último punto que DPSS LA County señala y que pocas empresas hacen bien: registrar y reportar actividades sospechosas a autoridades locales y plataformas afectadas, conservando pruebas del incidente.

Esto no es solo por responsabilidad cívica. Los patrones de ataque se repiten. Si un proveedor tuyo recibe el mismo tipo de ataque que tú, compartir la información con las plataformas afectadas ayuda a detener la cadena. Y si acabas necesitando demostrar lo que pasó ante un regulador o un seguro de ciberriesgo, los logs son tu única defensa.

Configura la retención de logs en tu SIEM para al menos 90 días. Es el mínimo razonable para una investigación forense.

Abre el panel de administración ahora. Empieza por revisar los accesos OAuth. Es el cambio más rápido y el que más empresas tienen completamente ignorado. El resto puede ir en paralelo, pero ese lo puedes tener resuelto antes de que acabe el día.