- Nvidia et des leaders du secteur ont lancé l’Open Secure AI Alliance pour développer des outils ouverts pour la sécurité de l’IA.
- L’alliance a été créée pour contrer les menaces activées par l’IA, comme le récent problème de sécurité Hugging Face de juillet 2026.
- L’alliance pourrait remodeler la sécurité de l’IA en promouvant des modèles ouverts, des outils partagés et des garanties renforcées.
Nvidia Corp. et des leaders du secteur ont lancé l’Open Secure AI Alliance pour développer des technologies ouvertes protégeant les systèmes et logiciels d’intelligence artificielle (IA) contre les cybermenaces. L’alliance vise à créer des outils communautaires pour la correction des vulnérabilités, des formats de modèles sécurisés et des cadres d’identité d’agents IA zéro confiance après les récents incidents de sécurité liés à l’IA.
Nvidia et des leaders du secteur lancent une alliance Open Secure AI
Le 27 juillet 2026, Nvidia et une large coalition de leaders de l’industrie ont annoncé la création de l’Open Secure AI Alliance, une nouvelle initiative organisée sous la Linux Foundation. L’alliance s’appuie directement sur l’initiative Akrites existante de la Linux Foundation et sur les efforts communautaires de l’Open Source Security Foundation (OpenSSF). Cet effort collaboratif réunit des organisations de recherche en cloud, cybersécurité, logiciels d’entreprise, open source et IA.
Parmi eux figurent Nvidia, Adobe, Cadence, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Microsoft, NAVER, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpaceXAI et TrendAI, entre autres.
L’incident du visage d’étreinte met en lumière le besoin d’une sécurité IA ouverte
Le récent incident de sécurité Hugging Face en juillet 2026 a mis en lumière la nécessité d’une défense cybernétique flexible propulsée par l’IA. Au cours de l’enquête médico-légale, plusieurs modèles d’IA de frontière hébergés ont refusé d’analyser les artefacts d’attaque car leurs garde-fous de cybersécurité ne pouvaient pas distinguer un défenseur d’un attaquant. Hugging Face a plutôt utilisé le modèle GLM 5.2 à poids ouvert sur sa propre infrastructure pour analyser plus de 17 000 actions et soutenir la réponse aux incidents.
Les logiciels open source sous-tendent l’informatique en nuage, les services financiers, la fabrication, les télécommunications, le gouvernement et les services internet en rendant la technologie accessible et observable aux communautés d’experts. À mesure que l’IA devient centrale dans les infrastructures critiques, l’attention s’est portée sur la question de savoir si les défenses IA doivent rester à l’intérieur de quelques systèmes opaques ou s’appuyer sur des modèles, des harnais et des outils ouverts que les défenseurs peuvent étudier, adapter et déployer. L’incident de Hugging Face a renforcé l’idée que les équipes de sécurité ont besoin d’accéder à des capacités d’IA ouvertes et auto-hébergées lorsque les modèles commerciaux sont contraints par des garde-fous de sécurité.
Quelles sont les prochaines étapes pour l’Alliance Open Secure AI ?
La sécurité de l’IA dépend de la pile complète des agents, y compris l’identité, les permissions, les harnais, les garde-corps, les journaux et l’évaluation. Nvidia contribue avec des modèles ouverts, des poids de modèles, des données ainsi que le cadre de recherche Nvidia Labs Object Oriented Agent (NOOA) agent harness. HPE aidera à faire progresser l’identité IA zéro trust via SPIFFE/SPIRE, et Hugging Face prendra en charge des poids de modèles sécurisés avec des Safetensors.
Lightwell d’IBM et Red Hat étendra la sécurité à travers la chaîne d’approvisionnement open source grâce à des correctifs signés numériquement, tandis que Microsoft développera MDASH pour le scan des vulnérabilités des agents IA, et SpaceXAI a rendu open source Grok Build pour promouvoir un développement IA transparent. Les décideurs et régulateurs de l’IA devraient reconnaître les modèles ouverts, les exploits et les outils de sécurité comme des atouts défensifs dans la politique d’IA et de cybersécurité.
De plus, l’Open Secure AI Alliance avertit que les restrictions sur les systèmes d’IA à frontière ouverte pourraient affaiblir la capacité défensive et accroître la dépendance envers les fournisseurs fermés. L’alliance appelle à une infrastructure de défense IA partagée, incluant des ensembles de données, des cadres d’évaluation, des simulateurs d’attaque et des outils de red teaming, afin de construire des systèmes d’IA plus résilients et sécurisés.
À lire aussi : Les chercheurs avertissent que les agents d’IA doivent être traités comme des systèmes non fiables, sinon la sécurité tombera en panne
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
