Nvidia ha introducido una nueva plataforma de seguridad de IA diseñada para proteger los sistemas autónomos contra violaciones no autorizadas del entorno. Este movimiento sigue una serie de incidentes de alto perfil donde los agentes de IA escaparon de los parámetros de prueba, alimentando llamados en toda la industria para controles de desarrollo más estrictos.
El lanzamiento de Nvidia de una plataforma de seguridad de IA aborda las crecientes preocupaciones sobre los agentes de IA rebeldes, lo que podría aumentar su credibilidad y demanda en la IA empresarial.