La encuesta revela una creciente concienciación sobre los riesgos de seguridad de la IA

Cómo las vulnerabilidades de IA están generando nuevos desafíos de ciberseguridad

Conclusiones

• Las vulnerabilidades de IA están moldeando cada vez más los desafíos de ciberseguridad, con un 87% de los líderes encuestados señalando un aumento de los riesgos de seguridad en 2025.
• Las filtraciones de datos y los avances adversarios son las preocupaciones de seguridad de IA más urgentes, según la encuesta global.
• El 64% de las organizaciones tienen procesos para evaluar la seguridad de las herramientas de IA antes de su implementación, pero muchas herramientas carecen de controles adecuados.
• Los riesgos de fraude y phishing cibernéticos están aumentando, junto con las preocupaciones sobre la cadena de suministro, las vulnerabilidades del software y los ataques de ransomware.
• La expansión de la superficie de ataque debido a la adopción de IA hace que la ciberseguridad sea cada vez más difícil, ya que la falta de controles en muchas herramientas de IA plantea riesgos significativos.
• Se necesitan urgentemente marcos de gobernanza de seguridad para la IA, pero la rápida adopción de agentes de IA puede superar la capacidad de respuesta de los equipos de ciberseguridad, lo que podría dar lugar a infracciones graves.

Una encuesta global realizada por el Foro Económico Mundial (WEF) sugiere que los riesgos inherentes a la ciberseguridad son mucho mayores de lo que parecen debido a las vulnerabilidades que crean las aplicaciones de inteligencia artificial (IA).

La encuesta realizada a 873 ejecutivos de alto nivel, académicos, miembros de la sociedad civil y líderes del sector público en materia de ciberseguridad revela que un 87 % valora el hecho de que los riesgos de seguridad de la IA aumentaran en 2025, y un 64 % afirma que su organización cuenta con un proceso para evaluar la seguridad de las herramientas de IA antes de implementarlas. Según la encuesta, las preocupaciones más acuciantes en materia de seguridad de la IA son las fugas de datos (30 %), seguidas de cerca por el avance de las capacidades adversarias (28 %).

Más de tres cuartas partes (77%) también señalaron que su organización ya ha implementado herramientas habilitadas por IA para cumplir con sus objetivos de ciberseguridad, con phishing y detección de amenazas de correo electrónico (52%) a la cabeza de esas iniciativas, seguidas por la detección y respuesta a intrusiones o anomalías (46%), la automatización de operaciones de seguridad (43%), el análisis del comportamiento del usuario y la detección de amenazas internas (40%), y la inteligencia de amenazas y la priorización de riesgos (39%).

Naturalmente, hay obstáculos para la adopción de la IA que la mayoría de las organizaciones ya están encontrando, especialmente el conocimiento y/o habilidades insuficientes (54%), la validación de los resultados de la IA (41%), la incertidumbre sobre los riesgos reales (39%), los fondos insuficientes (36%) y los casos de negocio poco claros (33%), según la encuesta.

No obstante, casi todos los encuestados (94%) también identificaron la IA/aprendizaje automático como la tecnología que afectará más significativamente a la ciberseguridad en los próximos 12 meses, seguida por la computación en la nube (61%) y la computación cuántica (37%).

Fraude cibernético y otras amenazas en aumento

Por supuesto, la IA es solo el último de muchos vectores de amenaza que están creando niveles de riesgo cada vez mayores para el negocio. La encuesta, por ejemplo, revela que más de tres cuartas partes de los encuestados (77%) también son conscientes de que los riesgos relacionados con el fraude cibernético y el phishing han aumentado en el último año. Además, hay una mayor conciencia de los riesgos relacionados con las cadenas de suministro (65%), las vulnerabilidades de software (58%) y ataques de ransomware (54%).

Aunque más de tres cuartas partes (78 %) afirmaron que su plantilla cuenta con las habilidades necesarias para alcanzar sus objetivos actuales en materia de ciberseguridad, un 61 % identificó la rápida evolución de las amenazas y las tecnologías emergentes como su mayor reto a la hora de alcanzar y mantener la ciberresiliencia, seguido de las vulnerabilidades de terceros y de la cadena de suministro (46 %) y la escasez de habilidades y conocimientos en materia de ciberseguridad (45 %).

En conjunto, la encuesta pone de manifiesto que, incluso en la era de la IA, garantizar la ciberseguridad nunca ha sido tan difícil. Aunque los propios equipos de ciberseguridad están aprovechando la IA para automatizar tareas, el tamaño total de la superficie de ataque que hay que defender no deja de aumentar a medida que se implementan más herramientas y aplicaciones de IA. Por desgracia, muchas de esas herramientas, como las cada vez más populares OpenClaw AI agente IA, no tienen controles de seguridad en absoluto.

Todos los equipos de ciberseguridad acabarán necesitando implementar un marco de gobernanza y cumplimiento de la seguridad para aplicar controles a la IA. Mientras, el ritmo de adopción de los agentes de IA en muchas organizaciones está dificultando que los equipos de ciberseguridad puedan seguir el ritmo. No obstante, pronto se producirá una importante brecha de ciberseguridad, casi inevitable, que, una vez que ocurra, podría frenar el entusiasmo por los agentes de IA el tiempo suficiente para que los equipos de ciberseguridad se preparen completamente.