• 7 min de lectura
La IA está haciendo que los ciberataques sean más rápidos y difíciles de detectar
La IA está acelerando el phishing, los deepfakes, la inyección de prompts y el descubrimiento de vulnerabilidades, obligando a los defensores a proteger sistemas ante ataques automatizados más rápidos
Imagen: Engadget
El auge de la IA generativa ha facilitado la escalabilidad del phishing, ha acelerado la búsqueda de vulnerabilidades y ha hecho que la ingeniería social sea más difícil de detectar. El resultado es una carrera en ciberseguridad en la que los atacantes solo necesitan encontrar una debilidad, mientras que los defensores deben cubrir cada sistema expuesto.
Cualquiera con acceso a un gran modelo de lenguaje (LLM) puede ahora automatizar tareas que antes requerían investigación sustancial y experiencia técnica. La IA puede escribir código de ataque, buscar información sobre víctimas potenciales y coordinar múltiples pasos mientras un atacante humano supervisa.
“La IA ha democratizado el cibercrimen.”
La asimetría es el problema central. Un defensor debe asegurar cada posible punto de entrada; un atacante a menudo necesita solo un camino exitoso. Por lo tanto, la IA resulta útil en ambos bandos, pero su capacidad para comprimir semanas de trabajo en una tarde da a los criminales y a los grupos patrocinados por estados un multiplicador de fuerza muy poderoso.
Phishing y deepfakes asistidos por IA
El phishing ya no tiene que anunciarse por faltas ortográficas o gramática torpe. Un LLM puede producir mensajes plausibles a escala, encontrar direcciones de correo y enviar campañas personalizadas. Para el phishing dirigido, también puede investigar a un objetivo específico y mantener conversaciones pretextuales diseñadas para extraer información.
El proveedor de seguridad Brightside dice que el 82% de los correos de phishing ahora usan IA en algún punto del proceso. En entornos simulados, la tasa de clics pasó del 12% para mensajes convencionales al 52% para los asistidos por IA. Brightside también estimó que los ataques de clonación de voz aumentaron un 442% interanual, mientras que los ataques deepfake subieron un 680% entre 2023 y 2024.
Recomendado
Estafa de voz con IA deja a un hombre de Hong Kong sin $1.27 millones
Esas cifras provienen de simulaciones e investigaciones de proveedores; los reportes no dan la metodología del estudio ni una verificación independiente. Aun así, el mecanismo es sencillo: la IA elimina gran parte del coste de producir fraudes convincentes y dirigidos.
La inyección de prompts crea una nueva superficie de ataque
A medida que las empresas conectan sistemas de IA a datos internos y herramientas de negocio, los atacantes pueden dirigirse al modelo en sí. En un ataque de inyección de prompts, instrucciones maliciosas se ocultan en contenido que se le pide procesar a una IA. Por ejemplo, una página web podría indicarle a un asistente de la empresa que envíe datos de nómina a un atacante cuando un empleado pida al sistema que los resuma.
No todos los ataques están diseñados para robar datos. Microsoft encontró sitios web que incrustaban instrucciones ocultas detrás de botones de “resumir con IA”, incitando a los chatbots a recordar esos sitios como fuentes de confianza o a recomendar sus productos por encima de los competidores. Un usuario podría no descubrir la manipulación sin revisar la memoria persistente del modelo.
Un fallo más directo apareció en diciembre de 2025, cuando Meta presentó un asistente de soporte con IA para la recuperación de cuentas. El bot asociaba una dirección de correo controlada por un atacante con una cuenta de Instagram, haciendo que las cuentas sin autenticación multifactor fueran trivialmente vulnerables.
La fuente también cita un estudio de Anthropic realizado con el UK AI Security Institute y la Alan Turing Foundation. Publicado en octubre de 2025, encontró que apenas 250 documentos maliciosos podían crear una puerta trasera oculta en un modelo de IA. Este tipo de envenenamiento de datos podría implicar sembrar instrucciones dañinas en fuentes que los modelos usan para entrenamiento o recuperación, como foros de soporte informático.
OpenAI ha dicho que defender completamente los navegadores de IA contra la inyección de prompts puede no ser posible. La respuesta práctica descrita aquí es evitar conectar sistemas sensibles a la IA cuando sea posible, verificar el contenido copiado en los prompts y restringir el acceso de los modelos a datos privados y permisos del sistema.
Los agentes de IA convierten los errores en acciones
El riesgo se vuelve más serio cuando una IA puede actuar en lugar de limitarse a generar texto. Las empresas están dando a los agentes acceso a soporte al cliente, recursos humanos, nóminas, repositorios de código y sistemas de despliegue. Las personas los conectan a correo electrónico, calendarios, hogares inteligentes y cuentas de inversión.
Un agente que interpreta mal un prompt puede usar sus permisos de inmediato. El incidente del bot de soporte de Meta ilustra la diferencia entre un chatbot que responde preguntas y otro conectado a herramientas que pueden cambiar la titularidad de cuentas. El modelo no necesitó malware sofisticado; simplemente ejecutó una petición peligrosa con el acceso que se le había concedido.
El reportaje también señala una contradicción en el desarrollo actual de la IA: los modelos pueden ser eficaces encontrando fallos de software mientras generan código con más errores y vulnerabilidades de alto riesgo. Investigaciones de la Universidad de Nápoles y estudios privados de CodeRabbit hallaron que el código generado por IA seguía siendo propenso a errores incluso cuando lo revisaba un humano.
La lección práctica tiene menos que ver con si los modelos pueden recitar buenas prácticas de seguridad que con si pueden aplicarlas de forma fiable. Conceder a un agente acceso a nivel de administrador convierte un error por inyección de prompts en una posible compromisión de cuentas, datos o infraestructura.
Los defensores están formando equipos de seguridad de IA
Los defensores responden con sistemas de IA propios. Los profesionales de ciberseguridad encuestados por Trend Micro situaron el fraude y los deepfakes como su máxima prioridad, seguidos por ataques a aplicaciones que incluyen inyección de prompts, envenenamiento de modelos y evasión de restricciones. Los entornos en la nube fueron identificados como las superficies más difíciles de monitorizar, por delante de las prácticas de seguridad entre trabajadores remotos que usan dispositivos personales.
Microsoft también ha desplegado Project Perception, un sistema de seguridad basado en agentes construido alrededor de clústeres que imitan equipos convencionales de ciberseguridad. Un clúster rojo se encarga de pruebas de penetración y simulación adversarial, un clúster azul investiga y evalúa el riesgo, y un clúster verde se centra en la integración y la remediación.
Esa respuesta defensiva es coherente con la mayor presión de contratación descrita en nuestra cobertura del crecimiento de empleos en ciberseguridad impulsados por la IA: la IA no está eliminando la necesidad de profesionales de seguridad, sino cambiando el trabajo que deben supervisar y defender.
La estructura reportada de Project Perception muestra cómo las empresas esperan contrarrestar los ataques automatizados, pero la fuente no proporciona resultados de rendimiento, metodología de referencia ni evidencia de que el sistema pueda superar a los atacantes de forma fiable. Los hechos sostienen una evaluación clara: la IA ha hecho que los ataques sean más baratos, rápidos y convincentes, mientras que la IA defensiva sigue presentándose como una respuesta y no como una solución demostrada. Hasta que los permisos de los agentes, el código generado y el manejo de prompts estén más constreñidos, conectar un sistema de IA a infraestructura sensible sigue siendo una decisión de seguridad más relevante que añadir otro modelo.
Security Editor
Sophia unpacks the invisible wars happening on our networks. Covering cybersecurity, privacy legislation, and cryptography, she exposes how our data is weaponized and defended. Before joining for(geeks), she spent years as a penetration tester. She's the reason the rest of the team uses physical security keys.
vía Engadget
