NVIDIA y otras 36 empresas y organizaciones tecnológicas crearon la Open Secure AI Alliance, una iniciativa destinada a desarrollar y compartir herramientas abiertas para mejorar la seguridad de los sistemas de inteligencia artificial. Entre sus integrantes figuran Microsoft, IBM, Red Hat, Cisco, CrowdStrike, Cloudflare, Palantir, Hugging Face y la Linux Foundation.
La alianza busca que investigadores y especialistas puedan analizar, adaptar y mejorar públicamente las herramientas de seguridad, en lugar de depender exclusivamente de sistemas cerrados. Entre las áreas de trabajo estarán la detección y corrección de vulnerabilidades, las pruebas de seguridad, la evaluación de modelos y agentes de IA y el intercambio de tecnologías para responder con mayor rapidez ante nuevas amenazas.
NVIDIA también anunció la apertura de algunas de sus tecnologías para este esfuerzo. La iniciativa parte de una preocupación creciente: a medida que la inteligencia artificial adquiere mayor autonomía y se incorpora a sistemas críticos, también puede convertirse en un nuevo objetivo para los ciberdelincuentes.
Los promotores sostienen que una defensa abierta puede permitir que más especialistas detecten fallos, compartan soluciones y mejoren las herramientas de protección frente a ataques cada vez más sofisticados.
