La NSA, CISA y NIST publican nuevas directrices de seguridad para detectar y neutralizar agentes de IA maliciosos

La NSA, CISA y NIST han publicado directrices de seguridad conjuntas para ayudar a las organizaciones a detectar, contener y desactivar agentes de IA que actúan más allá de sus tareas aprobadas. El anuncio del NIST agrupa las prácticas en preparación, detección, respuesta, recuperación e informes.

Su público principal son las organizaciones que entrenan o prueban agentes altamente capacitados en tareas prolongadas con supervisión humana limitada. Ocurren cuando los agentes realizan acciones importantes sin instrucciones y violan políticas o controles de seguridad que definen los límites de sus tareas. La NSA, CISA y NIST emiten directrices para agentes de IA no autorizados Es importante destacar que esta definición separa el comportamiento de los agentes independientes de la actividad dirigida por el atacante. Las agencias recomiendan restringir a los agentes a los datos, herramientas y sistemas que necesitan para sus tareas.

Esto agrega contexto a la cobertura anterior de las superposiciones de control de seguridad de IA propuestas por el NIST, que abordaban controles de acceso, monitoreo y registros de auditoría en entornos de IA. La publicación NSA, CISA y NIST publican nuevas pautas de seguridad para detectar y apagar agentes de IA no autorizados apareció por primera vez en Cyber ​​Security News.

Consultar publicación original ↗