NVIDIA lanza una plataforma abierta de seguridad para agentes de IA con 100 socios de la industria para proteger agentes autónomos de inteligencia artificial

NVIDIA ha lanzado la Open Agent Safety Platform, un marco abierto diseñado para proteger a los agentes autónomos de IA a medida que obtienen acceso a modelos, herramientas, entornos de ejecución de código, datos, redes y sistemas empresariales. NVIDIA dijo que los agentes autónomos requieren salvaguardas más sólidas porque pueden operar durante períodos prolongados, usar múltiples herramientas, tomar decisiones de forma independiente y potencialmente llegar a sistemas más allá de su alcance previsto.

Las recientes evaluaciones de seguridad de los laboratorios de IA de frontera han demostrado que los agentes pueden desviarse de las tareas asignadas, acceder a sistemas no autorizados o informar de manera inexacta las acciones completadas. NVIDIA lanza la plataforma abierta de seguridad de agentes NVIDIA dijo que la seguridad de los agentes no puede depender solo de un modelo de IA que siga las instrucciones. Open Agent Safety Platform se basa en NVIDIA OpenShell, un entorno de ejecución seguro de código abierto publicado bajo la licencia Apache 2.0. NVIDIA Agent Safety Platform: OpenShell Sentry (fuente: nvidia ) OpenShell ejecuta agentes de IA autónomos en entornos de sandbox con aislamiento a nivel de kernel.

Las empresas de todas las aplicaciones, modelos, infraestructura, chips y energía de IA admiten la Plataforma de seguridad de agentes abiertos de NVIDIA (fuente: NVIDIA) La plataforma de NVIDIA está optimizada para la CPU NVIDIA Vera y los sistemas BlueField DPU. Potencie su SOC con un contexto IoC instantáneo para una respuesta inmediata: integre la búsqueda de TI en su SOC La publicación NVIDIA lanza la plataforma abierta de seguridad de agentes con 100 socios de la industria para proteger a los agentes autónomos de IA apareció primero en Cyber Security News.

Consultar publicación original ↗