Cisco presentó AI Defense, una solución para habilitar y proteger la transformación de IA dentro de las empresas. A medida que la tecnología de IA avanza, surgen nuevas preocupaciones de seguridad y amenazas a una velocidad sin precedentes que las soluciones de seguridad existentes no están preparadas para proteger. Cisco AI Defense está diseñado específicamente para que las empresas desarrollen, implementen y aseguren aplicaciones de IA con confianza.
“Los líderes empresariales y tecnológicos no pueden permitirse sacrificar la seguridad por la velocidad al adoptar la IA“, dijo Jeetu Patel, vicepresidente ejecutivo y director de producto de Cisco. “En un panorama dinámico donde la competencia es feroz, la velocidad decide a los ganadores. Integrado en la estructura de la red, Cisco AI Defense combina la capacidad única de detectar y proteger contra amenazas al desarrollar y acceder a aplicaciones de IA sin compromisos“, agregó.
Las consecuencias de que algo salga mal con la IA son increíblemente altas. Según el Índice de Preparación de IA de Cisco de 2024, solo el 29 % de los encuestados se siente completamente equipado para detectar y prevenir la manipulación no autorizada de la IA. Los desafíos de seguridad también son nuevos y complejos, con aplicaciones de IA que son multi-modelo y multi-cloud.
Las vulnerabilidades pueden ocurrir a nivel de modelo o de aplicación, mientras que la responsabilidad recae en diferentes propietarios, incluidos desarrolladores, usuarios finales y proveedores. A medida que las empresas avanzan más allá de los datos públicos y comienzan a entrenar modelos con datos propietarios, los riesgos solo aumentan.
Para desbloquear la innovación y adopción de IA, las empresas necesitan una capa común de seguridad y protección que proteja a cada usuario y cada aplicación. AI Defense permite las transformaciones de IA de las empresas abordando dos riesgos urgentes:
Desarrollar e implementar aplicaciones de IA seguras: A medida que la IA se vuelve ubicua, las empresas utilizarán y desarrollarán cientos, si no miles, de aplicaciones de IA. Los desarrolladores necesitan un conjunto de barreras de seguridad y protección de IA que funcionen para cada aplicación. AI Defense ayuda a los desarrolladores a moverse rápidamente y desbloquear un mayor valor protegiendo los sistemas de IA de los ataques y asegurando el comportamiento del modelo, en todas las plataformas.
Las capacidades de AI Defense incluyen:
- Descubrimiento de IA: Los equipos de seguridad necesitan entender quién está construyendo aplicaciones y las fuentes de entrenamiento que utilizan. AI Defense detecta aplicaciones de IA sombreadas y sancionadas en nubes públicas y privadas.
- Validación de modelos: La afinación de modelos puede llevar a resultados tóxicos e inesperados. Las pruebas automatizadas verifican los modelos de IA en busca de cientos de posibles problemas de seguridad y seguridad. Este equipo rojo algorítmico impulsado por IA identifica posibles vulnerabilidades y recomienda barreras de seguridad en AI Defense para que los equipos de seguridad las utilicen.
- Seguridad en tiempo de ejecución: La validación continua protege contra posibles amenazas de seguridad y seguridad, como la inyección de indicaciones, la denegación de servicio y la fuga de datos sensibles de manera continua.
- Asegurar el acceso a aplicaciones de IA: A medida que los usuarios finales se apresuran a adoptar aplicaciones de IA, como herramientas de resumen para mejorar su productividad, los equipos de seguridad necesitan prevenir la fuga de datos y el envenenamiento de datos propietarios. AI Defense permite a los equipos de seguridad con:
- Visibilidad: Proporciona una visión completa de las aplicaciones habilitadas para IA sombreadas y sancionadas utilizadas por los empleados.
- Control de acceso: Implementa políticas que restringen el acceso de los empleados a herramientas de IA no sancionadas.
- Protección de datos y amenazas: Protege continuamente contra amenazas y pérdida de datos confidenciales mientras garantiza el cumplimiento.
A diferencia de las barreras de seguridad integradas en modelos individuales de IA, Cisco ofrece controles consistentes para un mundo multimodelo. AI Defense es autooptimizante, aprovechando los modelos de aprendizaje automático propietarios de Cisco para detectar preocupaciones de seguridad y seguridad de IA en constante evolución basadas en datos de inteligencia de amenazas de Cisco Talos. Los clientes de Splunk que están utilizando AI Defense recibirán alertas enriquecidas con contexto adicional de todo el ecosistema. AI Defense se integra a la perfección con los flujos de datos existentes para una visibilidad y control sin igual y está integrado en Security Cloud, la plataforma de seguridad unificada, impulsada por IA y multi-dominio de Cisco.
La precisión y confiabilidad son esenciales para proteger las aplicaciones empresariales de IA, y Cisco ha estado activamente involucrado en el desarrollo de estándares de seguridad de IA de la industria, incluidos los de MITRE, OWASP y NIST.
“La adopción de la IA expone a las empresas a nuevos riesgos que las soluciones tradicionales de ciberseguridad no abordan“, dijo Kent Noyes, Jefe Global de Innovación en IA y Ciberseguridad en World Wide Technology.
AI Defense es lo último en una serie de innovaciones de seguridad impulsadas por IA de Cisco, incluido Cisco Hypershield. Cisco AI Defense estará disponible en marzo de 2025 para que las empresas protejan sus transformaciones de IA.
