La IA está en todas partes. Las habilidades para asegurarla y gobernarla no lo están.

Una nueva investigación internacional revela que casi la mitad de los líderes de TI sénior dicen que a sus equipos les faltan las habilidades para asegurar y gobernar las tecnologías de IA que ya se utilizan en la empresa.

Conclusiones principales

• Un nuevo estudio de Barracuda revela que el 44 % de los máximos responsables de TI en organizaciones con entre 100 y 500 empleados, y el 49 % de los que trabajan en organizaciones con entre 500 y 1.000 empleados, consideran que la seguridad y la gobernanza de la IA son una de sus tres principales carencias en materia de capacidades.
• El desafío de habilidades es más pronunciado en las organizaciones donde la IA está integrada en el correo electrónico, las operaciones comerciales y los flujos de trabajo.

Las organizaciones están adoptando rápidamente la IA, pero muchas carecen de la experiencia necesaria para gestionar los riesgos de seguridad, gobierno y cumplimiento normativo que conlleva.

Recientemente, Barracuda realizó una encuesta a líderes de TI y seguridad en organizaciones de entre 100 y 2.000 empleados en EE. UU., EMEA y APAC. La encuesta preguntó: “¿En qué áreas carece actualmente su equipo de seguridad de las habilidades o la experiencia necesarias para responder de manera efectiva?”

Los hallazgos revelan brechas generalizadas de habilidades en seguridad y gobernanza de IA, especialmente entre organizaciones de tamaño medio y empresas que integran IA en sistemas de correo electrónico, flujos de trabajo operativos y sistemas empresariales.

La seguridad y la gobernanza de IA se encuentran entre las mayores brechas de habilidades en general

Casi 4 de cada 10 (38 %) organizaciones encuestadas en general dicen que a sus equipos les faltan las habilidades o la experiencia necesarias para asegurar y gestionar las herramientas de IA que se utilizan en toda la empresa.

Esto incluye al 44% de los CIO en organizaciones ente 100 y 500 empleados y al 49% de aquellos en organizaciones entre 500 y 1.000 empleados.

La seguridad y gobernanza de IA se clasificó como la tercera mayor brecha de habilidades identificada en la investigación. Solo dos desafíos obtuvieron una puntuación más alta: responder a phishing impulsado por IA y ataques de ingeniería social (47%) y defenderse contra ataques basados en la identidad (39%).

Por qué los líderes senior de TI están particularmente preocupados

La perspectiva de los altos cargos de TI es particularmente importante porque estos roles tienen una amplia visibilidad sobre las personas, los procesos, la tecnología y la estrategia empresarial. A menudo son de los primeros en ver dónde la adopción de IA está superando la gobernanza, el desarrollo de políticas y la gestión de riesgos.

Su creciente preocupación también muestra que la gobernanza de la IA ya no es un problema de ciberseguridad minoritario limitado a los equipos de seguridad. Es cada vez más un desafío de liderazgo a nivel empresarial que requiere supervisión en las funciones de tecnología, cumplimiento normativo, gestión de riesgos, legal, RR. HH. y liderazgo ejecutivo.

La escala y la complejidad dificultan la gobernanza.

La investigación sugiere que la seguridad y la gobernanza de la IA se vuelven más difíciles a medida que aumenta la complejidad organizacional.

Entre las organizaciones más grandes de tamaño medio encuestadas (de 1.500 a 2.000 empleados), el 47% informó una falta de experiencia en gobernanza de IA, en comparación con el 38% de las organizaciones de entre 100 y 500 empleados. La diferencia no es dramática, pero es reveladora.

A medida que las organizaciones crecen, suelen introducir más aplicaciones, usuarios, fuentes de datos y procesos empresariales, con más integraciones entre ellos. También pueden enfrentar una mayor variedad de obligaciones normativas y de cumplimiento.

En estos entornos, como es lógico, la gestión de la IA resulta más complicada. Las organizaciones necesitan saber qué herramientas de IA se están utilizando, a qué datos pueden acceder dichas herramientas, cómo se utilizan los resultados y quién es el responsable de la supervisión. Mantener unos estándares de gestión coherentes en un entorno más amplio y diverso puede suponer un reto incluso para equipos que cuentan con recursos suficientes.

Los flujos de trabajo de correo electrónico conectados a la IA suben el listón

Otro hallazgo interesante se refiere a las organizaciones donde la IA se está incorporando operativamente.

A medida que las organizaciones despliegan cada vez más agentes de IA para conectar el correo electrónico, CRM, RR. HH., finanzas y sistemas de atención al cliente, la gestión de la IA se vuelve significativamente más compleja. El 42 % de las organizaciones que utilizan la IA para integrar el correo electrónico con los flujos de trabajo informaron preocupaciones sobre la experiencia en gestión de IA. Eso se compara con el 35 % de las organizaciones donde el correo electrónico sigue siendo un proceso exclusivamente humano.

Este hallazgo destaca un cambio en cómo las organizaciones deberían pensar sobre el riesgo de la IA. Cuando la IA se conecta a las operaciones comerciales, el impacto potencial se expande significativamente. La IA puede obtener acceso a información sensible, influir en decisiones empresariales, automatizar procesos operativos o iniciar acciones en sistemas conectados.

En ese momento, la gobernanza de la IA se extiende más allá del monitoreo de los prompts y de los resultados generados por la ella. Se convierte en una cuestión de controlar cómo la IA accede a los datos, interactúa con los sistemas empresariales, influye en las decisiones e inicia acciones.

Los proveedores de servicios gestionados apoyan a los clientes preocupados

Los hallazgos muestran que las organizaciones que trabajan con proveedores de servicios gestionados (MSP) tienen más probabilidades de citar una falta de experiencia en seguridad y gobernanza de IA. El 40% de los clientes MSP expresaron preocupación por estas brechas de habilidades, en comparación con solo el 30% de la pequeña minoría de organizaciones que no utilizan MSP y no tienen planes de hacerlo.

Esto sugiere que muchas organizaciones reconocen que no tienen toda la experiencia necesaria internamente y están recurriendo cada vez más a los proveedores de servicios gestionados para obtener apoyo con la seguridad de IA, la gobernanza y la gestión de riesgos.

Curiosamente, las organizaciones que no utilizan proveedores de servicios gestionados y no tienen planes de hacerlo informan que su principal desafío de habilidades es “traducir los riesgos técnicos en impacto para el negocio.”

En otras palabras, reconocen que tienen dificultades para entender cómo los riesgos técnicos —que incluirían IA no protegida y no gestionada— podrían impactar en el negocio. Esto podría explicar por qué no ven la necesidad de buscar ayuda externa. Las organizaciones que utilizan MSP clasificaron esta brecha de habilidades como la más baja de todas.

Ninguna organización es inmune

Las dificultades relacionadas con las habilidades de gobernanza de seguridad en IA no se limitan a un sector o geografía concretos. Al menos 3 de cada 10 encuestados informan de una falta de experiencia para asegurar y gobernar el uso de IA en los negocios. El problema también se ubicó entre las tres principales preocupaciones de habilidades en la mayoría de los países incluidos en la investigación.

Cómo cerrar la brecha de capacidades

A medida que la adopción de IA continúa, la falta de una seguridad y gobernanza sólidas expondrá a las organizaciones a un riesgo creciente. Los empleados pueden cargar datos confidenciales en plataformas de IA públicas; los agentes de IA pueden acceder a información que no necesitan; los datos sensibles pueden incluirse en indicaciones, resultados o conjuntos de datos de entrenamiento; y las organizaciones pueden perder visibilidad sobre dónde se procesan o almacenan los datos empresariales.

La solución no es restringir el uso de la IA: los beneficios empresariales son inmensos, y es probable que los empleados encuentren soluciones alternativas que expongan a la organización a un mayor riesgo.

En su lugar, las organizaciones necesitan formas prácticas y escalables para adoptar la IA de manera segura, sin frenar la innovación ni perder visibilidad y control sobre cómo se utilizan los datos empresariales. Soluciones como Barracuda AI Data Security ayudan a las organizaciones y a los proveedores de servicios gestionados (MSP) a mantener la visibilidad y el control sobre cómo los empleados utilizan los datos empresariales en la IA, apoyando una adopción segura de la IA sin frenar la innovación.

Metodología

Barracuda encuestó a 2.000 responsables de la toma de decisiones en IT y seguridad de nivel medio a alto en roles de IT y negocios en organizaciones de entre 100 y 2.000 empleados de una amplia gama de sectores en EE. UU., Reino Unido, Francia, DACH (Alemania, Austria, Suiza), Benelux (Bélgica, Países Bajos, Luxemburgo), los países nórdicos (Dinamarca, Finlandia, Noruega, Suecia), Australia, India y Japón. La encuesta fue realizada para Barracuda por la agencia de investigación independiente Arlington Research.