Nvidia und Branchenführer starten Open Secure AI Alliance für KI-Sicherheit

• Nvidia und Branchenführer haben die Open Secure AI Alliance ins Leben gerufen, um offene Werkzeuge für KI-Sicherheit zu entwickeln.
• Das Bündnis wurde gegründet, um KI-gestützte Bedrohungen wie dem jüngsten Sicherheitsproblem Hugging Face im Juli 2026 zu begegnen.
• Das Bündnis könnte die KI-Sicherheit durch die Förderung offener Modelle, gemeinsamer Werkzeuge und stärkerer Schutzmaßnahmen neu gestalten.

Nvidia Corp. und Branchenführer haben die Open Secure AI Alliance ins Leben gerufen, um offene Technologien zu entwickeln, die KI-Systeme und -Software vor Cyberbedrohungen schützen. Die Allianz hat sich zum Ziel gesetzt, gemeinschaftsgetriebene Werkzeuge zur Behebung von Schwachstellen, sichere Modellformate und Zero-Trust-KI-Agenten-Identitätsrahmen nach jüngsten KI-Sicherheitsvorfällen zu schaffen.

Nvidia und Branchenführer starten Open Secure AI Alliance

Am 27. Juli 2026 kündigten Nvidia und eine breite Koalition von Branchenführern die Gründung der Open Secure AI Alliance an, einer neuen Initiative unter der Linux Foundation. Die Allianz baut direkt auf der bestehenden Akrites-Initiative der Linux Foundation und den Gemeinschaftsinitiativen der Open Source Security Foundation (OpenSSF) auf. Diese Zusammenarbeit vereint Forschungsorganisationen aus Cloud, Cybersicherheit, Unternehmenssoftware, Open Source und KI.

Dazu gehören unter anderem Nvidia, Adobe, Cadence, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Microsoft, NAVER, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpaceXAI und TrendAI.

Hugging Face-Vorfall unterstreicht die Notwendigkeit offener KI-Sicherheit

Der jüngste Sicherheitsvorfall von Hugging Face im Juli 2026 unterstrich die Notwendigkeit flexibler, KI-gestützter Cyberverteidigung. Während der forensischen Untersuchung weigerten sich mehrere gehostete Frontier-KI-Modelle, Angriffsartefakte zu analysieren, da ihre Cybersicherheits-Schutzmechanismen einen Verteidiger nicht von einem Angreifer unterscheiden konnten. Hugging Face betrieb stattdessen das offene GLM-5.2-Modell auf seiner eigenen Infrastruktur, um mehr als 17.000 Aktionen zu analysieren und die Einsatzreaktion zu unterstützen.

Open-Source-Software bildet die Grundlage für Cloud Computing, Finanzdienstleistungen, Fertigung, Telekommunikation, Regierung und Internetdienste, indem sie Technologie für Expertengemeinschaften zugänglich und beobachtbar macht. Da KI immer zentraler für kritische Infrastruktur wird, hat sich der Fokus darauf verlagert, ob KI-Verteidigungen innerhalb weniger undurchsichtiger Systeme bleiben oder auf offene Modelle, Geschirre und Werkzeuge angewiesen sein sollten, die Verteidiger untersuchen, anpassen und einsetzen können. Der Hugging-Face-Vorfall unterstrich die Argumentation, dass Sicherheitsteams Zugang zu selbstgehosteten, offenen KI-Funktionen benötigen, wenn kommerzielle Modelle durch Sicherheitsgeländer eingeschränkt sind.

Was steht als Nächstes für die Open Secure AI Alliance an?

Die KI-Sicherheit hängt vom gesamten Agentenstack ab, einschließlich Identität, Berechtigungen, Gurten, Leitplanken, Logs und Bewertung. Nvidia steuert offene Modelle, Modellgewichte, Daten sowie das Nvidia Labs Object Oriented Agent (NOOA) Agent Harness Research Framework bei. HPE wird helfen, die Zero-Trust-KI-Identität durch SPIFFE/SPIRE voranzutreiben, und Hugging Face wird sichere Modellgewichte mit Safetensors unterstützen.

IBM und Red Hats Lightwell werden die Sicherheit über die gesamte Open-Source-Lieferkette mit digital signierten Patches erweitern, während Microsoft MDASH für KI-Agenten-Schwachstellen-Scans entwickelt und SpaceXAI Grok Build als Open Source veröffentlicht hat, um eine transparente KI-Entwicklung zu fördern. KI-Politiker und Regulierungsbehörden sollten offene Modelle, Harnesses und Sicherheitswerkzeuge als defensive Mittel in der KI- und Cybersicherheitspolitik anerkennen.

Darüber hinaus warnt die Open Secure AI Alliance, dass Beschränkungen für offene Frontier-KI-Systeme die Verteidigungskapazität schwächen und die Abhängigkeit von geschlossenen Anbietern erhöhen könnten. Das Bündnis fordert eine gemeinsame KI-Verteidigungsinfrastruktur, einschließlich Datensätzen, Bewertungsrahmen, Angriffssimulatoren und Red-Teaming-Tools, um widerstandsfähigere und sicherere KI-Systeme aufzubauen.

Verwandt: Forscher warnen, dass KI-Agenten als vertrauenslose Systeme behandelt werden müssen, sonst wird die Sicherheit versagen