Trazando el futuro: cómo aprovechamos GenAI para mejorar las soluciones de seguridad en Barracuda Networks

Resumen

• La IA de Barracuda proporciona a los equipos de producto una plataforma GenAI escalable, compatible y fácil de usar. Ofrece acceso sencillo a más de 20 modelos de IA y rápida integración de nuevas tecnologías.
• El seguimiento exhaustivo y la supervisión avanzada, con tecnología de Databricks, proporcionan una visibilidad profunda de la toma de decisiones de la IA, lo que permite resolver problemas en tiempo real, optimizar el rendimiento y obtener un sólido cumplimiento de la seguridad.
• La innovación continua incluye APIs de evaluación mejoradas, acceso democratizado a los datos y supervisión ampliada, lo que garantiza que Barracuda se mantenga a la vanguardia de la ciberseguridad impulsada por la IA y la protección de los clientes.

En Barracuda, innovamos constantemente para adelantarnos a las amenazas de seguridad emergentes en un panorama digital cada vez más complejo. Como empresa en la que confían cientos de miles de empresas de todo el mundo para proteger su correo electrónico, sus redes, sus aplicaciones y sus datos, comprendemos la importancia fundamental de contar con soluciones de seguridad integrales. Barracuda existe para proteger y apoyar a sus clientes de por vida: ¿cómo podemos aprovechar la tecnología de IA de vanguardia para avanzar en nuestra misión?

Como ingeniero principal al frente de la iniciativa de la plataforma GenAI de Barracuda, sé lo importante que es proporcionar a los equipos de producto una plataforma consolidada, regional, escalable y conforme con la normativa, con unos gastos generales mínimos, que les permita crear, iterar e implementar soluciones de IA con confianza. La IA de Barracuda proporciona fácil acceso a más de 20 modelos de IA, con soporte para los últimos modelos, que se añaden en cuestión de días a través de APIs estables. Contamos con las avanzadas capacidades de rastreo de Databricks para supervisar, solucionar problemas y mejorar nuestra plataforma de IA, y estamos trabajando activamente en la integración de las soluciones LLMOps de Databricks, como LLM Judge Metrics and Monitoring, para simplificar LLMOps de cara a los equipos de producto que utilizan la IA de Barracuda.

El poder del rastreo para la IA de Barracuda

En ciberseguridad, comprender exactamente cómo toman decisiones los modelos de IA es fundamental tanto para la eficacia como para la confianza. El rastreo proporciona una visibilidad sin precedentes de nuestras aplicaciones de IA, lo que nos permite llevar un seguimiento de cada paso del proceso, desde la solicitud inicial hasta la respuesta final.

Cuando vimos el registro automático de MLflow LangChain en el congreso Databricks Data + AI Summit, lo integramos fácilmente y desde entonces disfrutamos de sus beneficios.

El rastreo nos permite:

• Seguir el recorrido completo de una solicitud a través de nuestro sistema
• Identificar los cuellos de botella y los problemas de rendimiento en tiempo real
• Depurar interacciones complejas entre múltiples componentes de IA
• Garantizar un comportamiento uniforme en diferentes entornos
• Proporcionar registros de auditoría con fines de seguridad y cumplimiento normativo

Al implementar un rastreo exhaustivo en toda nuestra plataforma, podemos identificar y resolver rápidamente los problemas, optimizar el rendimiento y garantizar que nuestras soluciones de seguridad funcionen de forma óptima, incluso cuando los patrones de ataque varían.

Nuestra implementación técnica

La IA de Barracuda se basa en tecnologías flexibles e interoperables diseñadas para maximizar el rendimiento y minimizar los costes generales.

Infraestructura de API de la IA de Barracuda

Nuestra API ofrece endpoints compatibles con OpenAI y con AIMessage/AIMessageChunk de LangChain (pronto habrá más), que logran una integración perfecta con las herramientas y los flujos de trabajo existentes. Esta capa de compatibilidad permite a los equipos de producto iterar y experimentar sin preocuparse por las implementaciones ni cambios de código en los entornos de modelos o agentes. En segundo plano, encapsulamos las interfaces y gestionamos las conversiones a través de una pasarela API regional y escalable, implementada a través de clústeres Kubernetes y construida con FastAPI —proporcionada por Uvicorn—, lo que garantiza un comportamiento y un rendimiento coherentes, al tiempo que se mantiene un seguimiento detallado.

Frontend para la IA de Barracuda

La IA de Barracuda también cuenta con una aplicación frontend Next.js segura y autenticada mediante SSO, que permite un uso más amplio de la IA en toda la empresa.

Supervisión y registro

Las capacidades de registro automático de MLflow rastrean automáticamente todas las interacciones del modelo sin necesidad de cambios de código extensos. Este enfoque de rastreo basado en «configurar y olvidar» garantiza que obtenemos datos completos incluso cuando nuestra plataforma evoluciona.

Procesamiento y análisis de datos

La integración con Databricks ofrece potentes capacidades de análisis y supervisión, que nos permiten procesar de forma eficiente grandes cantidades de datos de rastreo. En los rastreos recientes (en la última hora), utilizamos la interfaz de usuario de MLflow UI para efectuar un análisis inmediato. Para rastreos exportados previos, hemos creado vistas con DBT para nuestro espacio Databricks Genie, lo que nos permite extraer información y análisis significativos mediante el lenguaje natural.

Escenarios de uso diario

Nuestra infraestructura de rastreo admite una variedad de casos de uso críticos que nos ayudan a mantener la excelencia en seguridad:

Solución de problemas complejos

Cuando los usuarios notifican un comportamiento inusual, nuestros desarrolladores pueden buscar inmediatamente el request_id asociado y obtener el rastreo correspondiente. De este modo, es posible rastrear todo el recorrido de esa solicitud a través de nuestro sistema e identificar exactamente dónde se produjo el error.

Monitoreo integral del rendimiento

Hemos creado sofisticados paneles de control e informes diarios que nos proporcionan visibilidad sobre:

• Patrones de uso por equipo y modelo
• Análisis de costes y oportunidades de optimización
• Seguimiento del uso de tokens para mejorar la eficiencia
• Métricas de rendimiento del modelo y estadísticas de latencia

Estos paneles de control nos permiten tomar decisiones basadas en datos sobre la asignación de recursos e identificar oportunidades de optimización.

Detección y prevención de abusos

La seguridad consiste en proteger contra amenazas externas y posibles vulnerabilidades internas. Nuestro sistema de rastreo permite identificar situaciones de uso indebido, como cuando se implementan accidentalmente claves de desarrollo en entornos de producción.

Gestión de datos a gran escala

El manejo de datos de rastreo a gran escala plantea complicaciones singulares. Para rastreos extensos que contienen cargas de contexto masivas (como bases de código extensas o copias de registros de gran tamaño), hemos implementado estrategias de truncamiento inteligentes para no superar el límite de 16 MB JSON del tipo VARIANT de Databricks, al tiempo que conservamos la información más crítica.

También damos prioridad a la privacidad de los datos. En el caso de los rastreos en reposo en tablas de Delta Lake, eliminamos la información de identificación personal (PII) con fines de protección de datos, al tiempo que conservamos el valor analítico de nuestros datos de rastreo.

Orientaciones futuras

Estamos explorando activamente varias mejoras interesantes para nuestra plataforma de IA Barracuda:

Capacidades avanzadas de evaluación

El uso de APIs de evaluación y supervisión es una de nuestras principales prioridades y forma parte de nuestra hoja de ruta para el hackatón. Tenemos previsto exponer estas capacidades de evaluación a través de las APIs de nuestra plataforma, lo que permitirá a los equipos medir y mejorar la calidad de sus soluciones de seguridad basadas en IA.

Acceso democratizado a los datos

Utilice Databricks Delta Sharing para que los equipos puedan llevar a cabo sus propios análisis de los datos de rastreo. Esta capacidad les permitirá obtener información y promover cambios específicos para sus aplicaciones.

Evaluación offline mejorada

Estamos desarrollando capacidades para la evaluación offline de los datos de rastreo, lo que permitirá a los equipos probar hipótesis y mejoras sin afectar a los sistemas de producción. Este enfoque acelera la innovación, al tiempo que mantiene la estabilidad de nuestra infraestructura de seguridad.

Monitoreo ampliado

A medida que incorporamos nuevas funciones y mejoras en nuestra plataforma GenAI, exploramos formas de mejorar nuestras capacidades de supervisión. Queremos acelerar la innovación de productos, como la implementación de agentes de IA en Databricks que se integren con nuestra plataforma GenAI, y ampliar la visibilidad de nuestra infraestructura de rastreo.

Conclusión

La IA de Barracuda es la base de la innovación futura en Barracuda, ya que proporciona a los equipos de productos la flexibilidad, la potencia y la visibilidad que necesitan para crear la próxima generación de soluciones de seguridad. Al centralizar las capacidades de IA, optimizar la observabilidad mediante el rastreo y aprovechar la infraestructura escalable que ofrece Databricks, la IA de Barracuda se ha convertido en una piedra angular que sustenta muchas de nuestras iniciativas de productos. A medida que evoluciona el panorama de las amenazas, mantenemos nuestro compromiso de proteger a los clientes de por vida, mediante el perfeccionamiento y la ampliación continuos de esta base de IA y garantizando que todas las soluciones de Barracuda se beneficien de una innovación robusta, ágil y preparada para el futuro.