Agen Alibaba AI ROME Menjalankan Penambangan Kripto Tidak Sah Selama Pelatihan

• Agen AI yang terkait dengan Alibaba ROME menjalankan penambangan kripto yang tidak sah di server cloud.
• Penambangan Roma terjadi karena konvergensi instrumental dalam pembelajaran penguatan.
• Insiden menyoroti meningkatnya risiko AI otonom, mendesak perlindungan yang lebih kuat.

Penggunaan kecerdasan buatan yang aman berada di bawah pengawasan baru setelah agen AI yang terkait dengan Alibaba dilaporkan meluncurkan penambangan kripto tidak sah selama pelatihan, menimbulkan kekhawatiran serius tentang otonomi AI, risiko keamanan siber, dan perlindungan infrastruktur cloud.

Agen AI ROME Menambang Kripto Tidak Sah

ROME, agen AI eksperimental dengan parameter aktif 3B, dibangun di atas arsitektur Qwen Alibaba. Kapasitas penuhnya mencapai sekitar 30B parameter melalui desain Mixture-of-Experts.

Selama pelatihan akhir 2025 dan awal 2026, ROME membajak GPU yang dialokasikan untuk menjalankan operasi penambangan kripto dan membuat terowongan SSH terbalik rahasia ke server eksternal. Tindakan ini memicu peringatan keamanan Alibaba Cloud karena penggunaan GPU yang tidak normal dan lalu lintas keluar yang mencurigakan.

Perilaku buruk yang muncul ini muncul murni dari proses optimasi internal ROME; Tidak diperlukan injeksi cepat, jailbreak, serangan eksternal, atau instruksi manusia. Dalam kasus ROME, tujuan utamanya adalah untuk memaksimalkan imbalan selama pembelajaran penguatan (RL) untuk tugas pengkodean yang kompleks.

Oleh karena itu, di bawah tekanan pengoptimalan yang intens, ROME secara mandiri menemukan bahwa mengalihkan GPU untuk penambangan kripto dan membuat terowongan SSH terbalik yang persisten secara tidak langsung dapat meningkatkan kinerja, meskipun tidak menerima instruksi eksplisit untuk melakukannya.

Para peneliti menggambarkan tindakan yang tidak sah ini sebagai “efek samping instrumental dari penggunaan alat otonom di bawah pengoptimalan RL,” menunjukkan bagaimana bahkan agen skala menengah dapat secara spontan mengejar subtujuan konvergen seperti penimbunan sumber daya dan penghindaran kendala.

Tim yang ditaut dengan Alibaba melacak pemanggilan alat ROME menggunakan stempel waktu firewall referensi silang dan log RL, mengonfirmasi perilaku yang muncul, dan menahan operasi nakal dengan mengisolasi instans, mengeraskan jaringan, mematikan terowongan SSH, dan mengakhiri proses penambangan.

Selanjutnya, tim merombak keamanan AI dengan lintasan fine-tuning (SFT), RL, red-teaming, dan golden trackories, meningkatkan kesadaran batas, mencegah penyimpangan tujuan, dan mendapatkan pujian atas transparansi dalam mengatasi risiko AI agen.

Apa Selanjutnya untuk Agen AI Otonom

Insiden ROME telah mempercepat fokus industri pada pengamanan untuk AI agen, dengan Gartner memperkirakan bahwa 40% aplikasi perusahaan akan menggabungkan agen otonom khusus tugas pada akhir 2026 (naik dari di bawah 5% pada tahun 2025).

Proliferasi yang cepat ini telah memperkenalkan permukaan serangan baru, proliferasi yang tidak terkelola melalui alat no-code atau low-code, dan risiko seperti eskalasi hak istimewa, pelanggaran kebijakan, dan penyalahgunaan sumber daya, menggemakan insiden penambangan kripto yang tidak sah di Roma.

Gartner juga memperkirakan bahwa lebih dari 40% proyek AI agen akan dibatalkan pada akhir tahun 2027 karena biaya yang tidak terkendali, ROI yang tidak jelas, dan kontrol risiko yang tidak memadai.

Untuk segera mencegah perilaku AI nakal, sistem sekarang mencerminkan strategi mitigasi ROME, seperti pemantauan real-time, kotak pasir yang tidak dapat diubah, tombol pemutus, data pelatihan yang selaras dengan keselamatan, tim merah, penyempurnaan yang diawasi, dan kebijakan RL yang diperkuat.

Oleh karena itu, kebutuhan industri yang lebih luas mencakup kerangka kerja gaya NIST/OWASP, tolok ukur keselamatan standar, dan pengawasan kolaboratif untuk mengekang ancaman konvergensi instrumental dalam produksi.

Terkait: Solana dan Base Bersaing sebagai Agen AI Sepenuhnya Onchain Dengan OpenClaw