Commvault ha presentado AI Protect, una nueva herramienta de software diseñada para supervisar agentes de IA en entornos de AWS, Azure y GCP, con la capacidad de revertir acciones no autorizadas.
El objetivo del software es ofrecer una red de seguridad a las empresas que implementan agentes autónomos, los cuales podrían comportarse de forma impredecible o acceder a datos sensibles sin permiso.
Según informa go.theregister.com, este producto forma parte de una estrategia más amplia de la compañía, con 30 años de trayectoria, para consolidarse en el creciente mercado de la resiliencia de la IA.
Protegiendo la infraestructura de la IA
La CTO de campo de Commvault, Vidya Shankaran, comentó al medio que las empresas actualmente compiten por desplegar agentes de IA, mientras luchan por mantener una gobernanza adecuada.
Señaló que muchas organizaciones pasan por alto la necesidad de proteger las bases de datos vectoriales, que actúan como la memoria esencial de los modelos de lenguaje de gran tamaño (LLM).
"La base de datos vectorial almacena los embeddings en los que dependen los modelos de lenguaje de gran tamaño. Si se ve comprometida o se pierde, habría que reconstruirla desde cero o reentrenar el modelo. Ya nadie dispone de ese lujo de tiempo", afirmó Shankaran.
AI Protect funciona estableciendo una línea base de comportamiento normal para los agentes en diversas plataformas de la nube. El sistema detecta desviaciones, como cuando un agente intenta acceder repentinamente a información de nóminas a la que antes no tenía acceso.
Cuando se detecta una anomalía, el sistema notifica a los administradores y ofrece opciones para restaurar los archivos de configuración originales o reparar los datos corruptos.
Shankán aclaró que la herramienta no está diseñada para detener o controlar directamente agentes de terceros.
"Preferimos mantenernos en nuestro propio carril", comentó al medio, "y no extralimitarnos diciendo: ‘Oye, agente de Salesforce, no hagas eso’".
Junto con esta nueva herramienta de seguridad, Commvault también presentó Data Activate y AI Studio. Data Activate permite a las organizaciones utilizar copias de seguridad existentes para entrenar modelos de IA, reduciendo así la carga computacional en los sistemas de producción activos.
