- Nvidia y líderes del sector han lanzado la Open Secure AI Alliance para desarrollar herramientas abiertas para la seguridad de la IA.
- La alianza se formó para contrarrestar amenazas habilitadas por IA, como el reciente problema de seguridad Hugging Face de julio de 2026.
- La alianza podría transformar la seguridad de la IA promoviendo modelos abiertos, herramientas compartidas y salvaguardas más sólidas.
Nvidia Corp. y líderes del sector han lanzado la Open Secure AI Alliance para desarrollar tecnologías abiertas que protejan los sistemas y software de inteligencia artificial (IA) frente a las amenazas cibernéticas. La alianza pretende crear herramientas impulsadas por la comunidad para la remediación de vulnerabilidades, formatos de modelos seguros y marcos de identidad de agentes de IA cero confianza tras recientes incidentes de seguridad con IA.
Nvidia y líderes del sector lanzan la Alianza Open Secure AI
El 27 de julio de 2026, Nvidia y una amplia coalición de líderes del sector anunciaron la formación de la Open Secure AI Alliance, una nueva iniciativa organizada bajo la Linux Foundation. La alianza se basa directamente en la iniciativa Akrites existente de la Linux Foundation y en los esfuerzos comunitarios de la Open Source Security Foundation (OpenSSF). Este esfuerzo colaborativo une organizaciones de investigación en la nube, la ciberseguridad, el software empresarial, el código abierto y la inteligencia artificial.
Entre ellas se encuentran Nvidia, Adobe, Cadence, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Microsoft, NAVER, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpaceXAI y TrendAI, entre otros.
El incidente de Hugling Face pone de manifiesto la necesidad de una seguridad abierta en IA
El reciente incidente de seguridad de Hugging Face en julio de 2026 puso de manifiesto la necesidad de una defensa cibernética flexible impulsada por IA. Durante la investigación forense, varios modelos de IA fronterizos alojados declinaron analizar artefactos de ataque porque sus protecciones de ciberseguridad no podían distinguir a un defensor de un atacante. Hugging Face, en cambio, ejecutó el modelo GLM 5.2 de peso abierto en su propia infraestructura para analizar más de 17.000 acciones y apoyar la respuesta a incidentes.
El software de código abierto sustenta la computación en la nube, los servicios financieros, la manufactura, las telecomunicaciones, el gobierno y los servicios de internet, haciendo que la tecnología sea accesible y observable para comunidades de expertos. A medida que la IA se convierte en central en infraestructuras críticas, el foco se ha desplazado a si las defensas de IA deben permanecer dentro de unos pocos sistemas opacos o confiar en modelos abiertos, arneses y herramientas que los defensores puedan estudiar, adaptar y desplegar. El incidente de Hugging Face reforzó la idea de que los equipos de seguridad necesitan acceso a capacidades de IA abiertas y autoalojadas cuando los modelos comerciales están limitados por barreras de seguridad.
¿Qué sigue para la Open Secure AI Alliance?
La seguridad de la IA depende de toda la pila de agentes, incluyendo identidad, permisos, arneses, barreras de seguridad, registros y evaluación. Nvidia está contribuyendo con modelos abiertos, pesos de modelos, datos y el marco de investigación de aprovechamiento de agentes Nvidia Labs Object Oriented Agent (NOOA). HPE ayudará a avanzar en la identidad de IA zero trust a través de SPIFFE/SPIRE, y Hugging Face soportará pesos seguros de modelos con Safetensors.
Lightwell, de IBM y Red Hat, ampliará la seguridad a lo largo de toda la cadena de suministro de código abierto con parches firmados digitalmente, mientras Microsoft desarrolla MDASH para el escaneo de vulnerabilidades de agentes de IA, y SpaceXAI ha creado Grok Build de código abierto para promover un desarrollo transparente de IA. Los responsables políticos y reguladores de IA deberían reconocer modelos abiertos, aprovechamientos y herramientas de seguridad como activos defensivos en la política de IA y ciberseguridad.
Además, la Open Secure AI Alliance advierte que las restricciones a los sistemas de IA de frontera abierta podrían debilitar la capacidad defensiva y aumentar la dependencia de proveedores cerrados. La alianza pide infraestructuras de defensa de IA compartidas, incluyendo conjuntos de datos, marcos de evaluación, simuladores de ataque y herramientas de red teaming, para construir sistemas de IA más resilientes y seguros.
Relacionado: Investigadores advierten que los agentes de IA deben ser tratados como sistemas no confiables o la seguridad fallará
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
