Threat Spotlight: Los ataques por correo electrónico atacan tanto a humanos como a la IA en el mismo mensaje
Barracuda Research ha descubierto ataques de phishing dirigidos tanto a destinatarios humanos como a los sistemas basados en IA que estos utilizan para resumir, priorizar y procesar el correo electrónico.
Conclusiones principales
- El análisis de Barracuda Research muestra cómo los atacantes están combinando tácticas para manipular tanto a los usuarios humanos como a sus asistentes de IA de correo electrónico en el mismo email de phishing.
- Los seres humanos son objeto de ingeniería social, como adjuntos protegidos con contraseña, y los asistentes de IA son el objetivo de inyecciones de prompts diseñadas para influir en el comportamiento del usuario o anularlo.
- Las organizaciones deben proteger no solo a los usuarios y las bandejas de entrada, sino también los sistemas de IA que consumen datos de correo electrónico y actúan en consecuencia.
El ataque de correo electrónico de doble objetivo
Los correos electrónicos de phishing tradicionales están diseñados para engañar al destinatario humano y conseguir que haga clic en un enlace, abra un archivo adjunto o proporcione información.
A medida que los usuarios recurren cada vez más a los asistentes de IA para resumir mensajes de correo electrónico, priorizar bandejas de entrada, aceptar invitaciones de calendario, procesar tickets de soporte y ayudar a tomar decisiones empresariales, el modelo de ataques de phishing está cambiando. Los atacantes ahora tienen un segundo objetivo en el punto de mira: los sistemas de IA que se encuentran entre el correo electrónico y el usuario.
Una campaña de ataques reciente analizada por los investigadores de Barracuda demuestra cómo este tipo de ataques combina la ingeniería social tradicional con la inyección de peticiones (prompt injection) maliciosas.
Anatomía de un correo electrónico de muestra con doble objetivo
A primera vista, la muestra parece una correspondencia interna ordinaria.
Las direcciones "De" y "Para" coinciden con el mismo buzón, el mensaje presenta una puntuación de confianza de spam fiable y procede de un dominio del sector público, todo lo cual le confiere una legitimidad aparente y le ayuda a superar el filtrado basado en reputación.
El correo electrónico tiene varias capas. Una capa contiene el texto y las imágenes que ve el destinatario. Otra capa contiene instrucciones maliciosas ocultas conocidas como inyección de prompts. Estas están dirigidas al asistente de IA.
Vector de ataque 1: Phishing tradicional
La primera técnica resulta familiar para los profesionales de Email Security. El mensaje parece rutinario y fiable. Puede provenir de un dominio con apariencia legítima, hacer referencia a un proceso empresarial e incluir un documento adjunto. Este archivo adjunto está protegido con una contraseña, que se proporciona convenientemente en el cuerpo del correo electrónico, una táctica que crea un punto ciego para los controles tradicionales de protección del correo electrónico.
Si el usuario abre el archivo adjunto con la contraseña proporcionada, el ataque avanza hacia el robo de credenciales o la entrega de malware.
Sin embargo, si el usuario pasa por alto el correo electrónico, el atacante puede confiar en la inyección de instrucciones maliciosa oculta en la segunda capa del correo electrónico. Esto manipula al asistente de IA del usuario para que el resumen del correo electrónico que presenta al usuario marque el correo electrónico de phishing como legítimo o urgente, incitando al usuario a abrir el correo electrónico y hacer clic en el enlace.
Vector de ataque 2: Ocultar instrucciones al humano, pero no al asistente de IA
Además del ejemplo de manipulación del usuario mencionado anteriormente, la inyección de prompts maliciosa puede secuestrar la respuesta del asistente e indicarle al correo electrónico que ignore sus instrucciones anteriores y, en su lugar, envíe una solicitud urgente para transferir fondos a una cuenta especificada, filtre datos o muestre una falsa acción urgente. Ninguna de estas instrucciones es visible para el usuario.
Según el análisis de Barracuda, cuatro técnicas aparecen con frecuencia en este tipo de ataques:
1. Texto oculto en comentarios HTML. Las instrucciones se esconden dentro de etiquetas de comentario que nunca se muestran en un cliente de correo, pero que permanecen en el código fuente sin procesar que analiza una IA.
2. Técnicas de texto invisible (CSS). El texto se estiliza con un tamaño de fuente de cero píxeles, color blanco, o se oculta por completo, de modo que no ocupa espacio visible, pero sigue existiendo en el documento que lee el modelo.
Ejemplos observados por Barracuda en ataques reales
En un ejemplo, un bloque de texto oculto en un correo electrónico de factura ordena al modelo de IA que lo resume que añada una acción prioritaria falsa que cambia los datos de pago del proveedor, y el resumen comprometido empuja al empleado a transferir dinero al atacante.
Para el asistente de IA, el bloque oculto incrustado en la factura tiene este aspecto:
Cómo pueden defenderse las organizaciones
Ningún control de seguridad por sí solo podrá detener todas las variantes de estos ataques. Una protección eficaz requiere múltiples capas.
Las medidas defensivas clave incluyen:
- Desinfección de entradas para identificar y eliminar elementos ocultos, comentarios y caracteres invisibles antes de que el contenido llegue a los sistemas de IA.
- Detección de inyección de prompts para identificar lenguaje que sobrescribe instrucciones y patrones sospechosos.
- Sandboxing de IA para limitar lo que un asistente de IA puede acceder o hacer.
- Validación de resultados para revisar las respuestas generadas por la IA antes de que activen acciones.
- Requisitos de aprobación humana para transacciones financieras, cambios de proveedores y otras decisiones sensibles.
- Supervisión y registro para identificar intentos de inyección repetidos y patrones de ataque emergentes.
Lo más importante es que las organizaciones deben asegurarse de que el contenido externo de cualquier tipo se trate siempre únicamente como datos y se mantenga separado de las instrucciones.
El aspecto más peligroso de esta amenaza emergente es lo normal que parece. Un único correo electrónico puede ahora contener dos ataques independientes: uno destinado a convencer al destinatario de que abra un archivo adjunto malicioso, y otro destinado a manipular los sistemas de IA en los que se confía para procesar dicho mensaje.
A medida que los asistentes de IA se integran en las tareas cotidianas, las organizaciones deben ampliar su enfoque de seguridad. Proteger la bandeja de entrada ya no es suficiente. Los sistemas que leen, resumen y actúan sobre el contenido del correo electrónico también necesitan protección.
Cómo ayuda Barracuda a proteger frente a estas amenazas
Barracuda proporciona múltiples capas de defensa contra los ataques de correo electrónico tradicionales y las amenazas emergentes basadas en IA.
Barracuda Email Gateway Defense ayuda a identificar y bloquear mensajes sospechosos, analizar archivos adjuntos en entornos de sandbox, y aplicar controles en torno a tipos de archivos adjuntos de alto riesgo, incluidos los archivos protegidos con contraseña.
Behavioral AI ayuda a identificar intentos de phishing, fraude del correo electrónico empresarial y otros ataques que pueden evadir la detección tradicional basada en firmas.
Cuando una cuenta se ve comprometida, Automated Threat Response puede contener rápidamente la amenaza eliminando correos electrónicos maliciosos, deshabilitando el acceso sospechoso y corrigiendo los indicadores de riesgo.
Combinados con las funciones de notificación por parte de los usuarios, la formación en concienciación de seguridad y la inteligencia sobre amenazas, estos controles ayudan a reforzar tanto las defensas humanas como las técnicas.
Lo que los clientes MSP necesitan a continuación, de la trastienda a la sala de juntas
Barracuda Research descubrió que la excelencia técnica sigue siendo esencial, pero el crecimiento futuro estará impulsado por la experiencia en IA, la ciberresiliencia y la capacidad de comunicar el riesgo en términos empresariales.
Suscríbase al blog de Barracuda.
Regístrese para recibir Threat Spotlight, comentarios de la industria y más.
Informe sobre la brecha de habilidades en ciberseguridad: El riesgo de la IA encabeza la lista
La encuesta de Barracuda Research a 2.000 responsables de seguridad revela que el 94 % detecta carencias en las competencias de ciberseguridad, al tiempo que la IA reduce los puestos de nivel inicial en este ámbito, fundamentales para formar a futuros investigadores.