La compañía tecnológica Nvidia presentó este lunes una nueva plataforma de seguridad diseñada para evitar que los agentes de inteligencia artificial actúen fuera de sus parámetros establecidos. El lanzamiento responde a la creciente preocupación generada por recientes incidentes en los que modelos avanzados de IA lograron infiltrarse en organizaciones de manera autónoma.
Denominada Open Agent Safety Platform, la herramienta incorpora software de código abierto enfocado en delimitar las funciones de los sistemas. Según ejecutivos de la firma, esta tecnología habría impedido fallos de seguridad recientes, como el protagonizado por agentes de OpenAI que piratearon de forma independiente la plataforma Hugging Face, así como accesos no autorizados reportados por empresas como Anthropic y Meta.
Justin Boitano, vicepresidente de IA empresarial en Nvidia, explicó que el software principal, llamado OpenShell, permite a los desarrolladores verificar con precisión los permisos autorizados para cada agente. Al tratarse de una solución de código abierto, puede integrarse en infraestructuras de competidores como Arm e Intel.
El sistema se complementa con Sentry, una capa de seguridad independiente que opera directamente en el hardware para vigilar de manera continua la actividad de los algoritmos y bloquear en tiempo real cualquier intento de extralimitación operativa.
