Nvidia, Pemimpin Industri Meluncurkan Aliansi AI Terbuka yang Aman untuk Keamanan AI

• Nvidia dan para pemimpin industri telah meluncurkan Open Secure AI Alliance untuk membangun alat terbuka demi keamanan AI.
• Aliansi ini dibentuk untuk melawan ancaman berbasis AI seperti isu keamanan Hugging Face baru-baru ini pada Juli 2026.
• Aliansi ini dapat membentuk ulang keamanan AI dengan mempromosikan model terbuka, alat bersama, dan perlindungan yang lebih kuat.

Nvidia Corp. dan para pemimpin industri telah meluncurkan Open Secure AI Alliance untuk mengembangkan teknologi terbuka yang melindungi sistem dan perangkat lunak kecerdasan buatan (AI) dari ancaman siber. Aliansi ini bertujuan menciptakan alat yang digerakkan komunitas untuk perbaikan kerentanan, format model yang aman, dan kerangka identitas agen AI zero trust setelah insiden keamanan AI baru-baru ini.

Nvidia dan Pemimpin Industri Meluncurkan Aliansi AI Terbuka dan Aman

Pada 27 Juli 2026, Nvidia dan koalisi luas para pemimpin industri mengumumkan pembentukan Open Secure AI Alliance, sebuah inisiatif baru yang diselenggarakan di bawah Linux Foundation. Aliansi ini dibangun langsung di atas inisiatif Akrites dari Linux Foundation yang sudah ada dan upaya komunitas dari Open Source Security Foundation (OpenSSF). Upaya kolaboratif ini menyatukan organisasi riset cloud, keamanan siber, perangkat lunak perusahaan, open source, dan AI.

Termasuk Nvidia, Adobe, Cadence, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Microsoft, NAVER, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpaceXAI, dan TrendAI, di antara lainnya.

Insiden Wajah Berpelukan Menunjuk Kebutuhan Keamanan AI Terbuka

Insiden keamanan Hugging Face baru-baru ini pada Juli 2026 menegaskan perlunya pertahanan siber yang fleksibel dan didukung AI. Selama investigasi forensik, beberapa model AI frontier yang dihosting menolak menganalisis artefak serangan karena pagar keamanan siber mereka tidak dapat membedakan pembela dari penyerang. Hugging Face justru menjalankan model GLM 5.2 open-weight pada infrastrukturnya sendiri untuk menganalisis lebih dari 17.000 tindakan dan mendukung respons insiden.

Perangkat lunak sumber terbuka mendasari komputasi awan, layanan keuangan, manufaktur, telekomunikasi, pemerintahan, dan layanan internet dengan membuat teknologi dapat diakses dan dapat diamati oleh komunitas ahli. Seiring AI menjadi pusat infrastruktur kritis, fokus telah bergeser ke apakah pertahanan AI harus tetap berada di dalam beberapa sistem yang tidak transparan atau mengandalkan model terbuka, harness, dan alat yang dapat dipelajari, diadaptasi, dan diterapkan oleh para pembela. Insiden Hugging Face memperkuat argumen bahwa tim keamanan perlu mengakses kemampuan AI terbuka yang di-host sendiri ketika model komersial dibatasi oleh pagar pengaman.

Apa yang akan terjadi selanjutnya untuk Open Secure AI Alliance?

Keamanan AI bergantung pada seluruh tumpukan agen, termasuk identitas, izin, harness, pagar pengaman, log, dan evaluasi. Nvidia memberikan model terbuka, bobot model, data, dan kerangka riset Nvidia Labs Object Oriented Agent (NOOA) agent harness. HPE akan membantu memajukan identitas AI zero trust melalui SPIFFE/SPIRE, dan Hugging Face akan mendukung bobot model yang aman dengan Safetensors.

Lightwell milik IBM dan Red Hat akan memperluas keamanan di seluruh rantai pasok sumber terbuka dengan patch yang ditandatangani secara digital, sementara Microsoft mengembangkan MDASH untuk pemindaian kerentanan agen AI, dan SpaceXAI telah membuat Grok Build secara open-source untuk mendorong pengembangan AI yang transparan. Pembuat kebijakan dan regulator AI harus mengakui model terbuka, harness, dan alat keamanan sebagai aset pertahanan dalam kebijakan AI dan keamanan siber.

Selain itu, Open Secure AI Alliance memperingatkan bahwa pembatasan pada sistem AI perbatasan terbuka dapat melemahkan kapasitas pertahanan dan meningkatkan ketergantungan pada penyedia tertutup. Aliansi ini menyerukan infrastruktur pertahanan AI bersama, termasuk dataset, kerangka evaluasi, simulator serangan, dan alat red teaming, untuk membangun sistem AI yang lebih tangguh dan aman.

Terkait: Peneliti Memperingatkan Agen AI Harus Diperlakukan sebagai Sistem Tidak Dipercaya atau Keamanan Akan Gagal