Nvidia и лидеры отрасли запускают Open Secure AI Alliance for AI Security

• Nvidia и лидеры отрасли запустили Open Secure AI Alliance для создания открытых инструментов для безопасности ИИ.
• Альянс был создан для противодействия угрозам с поддержкой ИИ, таким как недавняя проблема безопасности Hugging Face в июле 2026 года.
• Альянс может изменить безопасность ИИ, продвигая открытые модели, общие инструменты и более ужесточённые меры защиты.

Nvidia Corp. и лидеры отрасли запустили Open Secure AI Alliance для разработки открытых технологий, защищающих системы и программное обеспечение искусственного интеллекта (AI) от киберугроз. Цель альянса — создавать инструменты, управляемые сообществом, для устранения уязвимостей, создания безопасных моделей и идентификационных рамок агентов ИИ с нулевым доверием после недавних инцидентов с безопасностью ИИ.

Nvidia и лидеры отрасли запускают Open Secure AI Alliance

27 июля 2026 года Nvidia и широкая коалиция лидеров отрасли объявили о создании Open Secure AI Alliance — новой инициативы, размещённой в рамках Linux Foundation. Альянс основан напрямую на существующей инициативе Linux Foundation Akrites и на усилиях сообщества Open Source Security Foundation (OpenSSF). Это совместное усилие объединяет облачные организации, кибербезопасность, корпоративное программное обеспечение, открытый исходный код и исследовательские организации в области ИИ.

Среди них — Nvidia, Adobe, Cadence, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Microsoft, NAVER, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpaceXAI и TrendAI, среди прочих.

Инцидент с объятием лица подчёркивает необходимость открытой безопасности ИИ

Недавний инцидент с безопасностью Hugging Face в июле 2026 года подчеркнул необходимость гибкой киберзащиты на базе искусственного интеллекта. Во время судебного расследования несколько размещённых моделей фронтирного ИИ отказались анализировать артефакты атак, поскольку их кибербезопасности не могли отличить защитника от злоумышленника. Вместо этого Hugging Face запустила открытую модель GLM 5.2 на собственной инфраструктуре, чтобы проанализировать более 17 000 действий и поддержать реагирование на инциденты.

Открытое программное обеспечение лежит в основе облачных вычислений, финансовых услуг, производства, телекоммуникаций, государственных и интернет-услуг, делая технологии доступными и наблюдаемыми для сообществ экспертов. По мере того как ИИ становится центральным элементом критической инфраструктуры, внимание сместилось на то, должна ли защита ИИ оставаться внутри нескольких непрозрачных систем или опираться на открытые модели, жгуты и инструменты, которые защитники могут изучать, адаптировать и внедрять. Инцидент с Hugging Face подтвердил, что команды безопасности нуждаются в доступе к самостоятельно размещаемым, открытым возможностям ИИ, когда коммерческие модели ограничены защитными перилами.

Что дальше для Open Secure AI Alliance?

Безопасность ИИ зависит от полного стека агентов, включая идентификацию, разрешения, страховки, логи и оценку. Nvidia вносит вклад в открытые модели, веса моделей, данные и фреймворк исследований агентов Nvidia Labs Object Oriented Agent (NOOA). HPE поможет продвинуть идентичность ИИ с нулевым доверием через SPIFFE/SPIRE, а Hugging Face будет поддерживать надёжные веса моделей с помощью Safetensor.

IBM и Lightwell от Red Hat расширят безопасность по всей открытой цепочке поставок с помощью цифрово подписанных патчей, Microsoft разрабатывает MDASH для сканирования уязвимостей агентов ИИ, а SpaceXAI предоставила открытый исходный код Grok Build для продвижения прозрачной разработки ИИ. Политики и регуляторы в области ИИ должны признавать открытые модели, инструменты безопасности и инструменты безопасности как защитные активы в политике ИИ и кибербезопасности.

Кроме того, Open Secure AI Alliance предупреждает, что ограничения на открытые ИИ-системы могут ослабить оборонительный потенциал и увеличить зависимость от закрытых провайдеров. Альянс призывает к объединённой инфраструктуре защиты ИИ, включая наборы данных, фреймворки для оценки, симуляторы атак и инструменты красной команды, чтобы создавать более устойчивые и безопасные системы ИИ.

Связано: исследователи предупреждают, что агенты ИИ должны рассматриваться как ненадёжные системы, иначе безопасность выйдет из строя