Paus Leo dan ECB Meningkatkan Alarm Atas Ancaman AI terhadap Sistem Keuangan Global

• Paus Leo telah memperingatkan tentang ancaman yang ditimbulkan oleh sistem AI yang berada di luar jangkauan manusia.
• ECB telah memanggil bank-bank ke pertemuan atas ancaman yang ditimbulkan oleh sistem AI.
• Mitos mengungkap kelemahan keamanan siber di browser dan sistem operasi.

Penyebaran kecerdasan buatan (AI) di berbagai sektor dunia maya menjadi masalah yang menjadi perhatian khusus, terutama ketika dikaitkan dengan risiko. Pada hari Senin, Paus Leo, kepala gereja katolik saat ini dan penguasa Kota Vatikan, menyuarakan keprihatinan atas tren yang sedang berlangsung.

Beberapa Sistem AI Di Luar Kendali Manusia

Dalam komentarnya, Paus memperingatkan bahwa beberapa sistem otonom “praktis di luar jangkauan manusia” untuk dikendalikan. Dia mencatat bahwa Gereja Katolik bermaksud untuk bekerja dengan pengembang AI untuk membahas cara terbaik untuk menggunakan teknologi tersebut, dengan alasan bahwa manusia harus mempertahankan kontrol utama sistem AI.

Waktu peringatan Paus tentang risiko seputar sistem otonom selaras dengan panggilan Bank Sentral Eropa (ECB) ke bank-bank di bawah yurisdiksinya, menyerukan pertemuan untuk membahas bagaimana memperkuat sistem keamanan siber. Menurut laporan, pertemuan itu menjadi penting menyusul kelemahan infrastruktur perbankan yang telah diekspos oleh model AI baru.

Bank Perlu Terburu-buru

Meskipun pertemuan telah dijadwalkan pada hari Selasa, 26 Mei, ECB mendesak tindakan yang lebih cepat dalam meningkatkan keamanan TI organisasi pemberi pinjaman. Menurut laporan, Frank Elderson, wakil ketua dewan pengawas ECB yang mengawasi bank, menggambarkan situasi saat ini sebagai perkembangan yang “mengubah permainan”. Elderson mencatat bahwa ECB ingin bank melihat situasi dengan serius, menyatakan bahwa “waktu terus berdetak.”

Perlu dicatat bahwa model AI Mythos diluncurkan pada bulan April dan dilaporkan memiliki kemampuan tingkat tinggi dalam menemukan dan mengeksploitasi kelemahan keamanan siber di browser dan sistem operasi. Kemunculan Mythos memicu kekhawatiran luas tentang ancaman yang ditimbulkannya, bersama dengan model serupa lainnya.

Terkait: ECB Tolak Proposal untuk Meningkatkan Stablecoin Euro, Mengatakan Itu Terlalu Berisiko

Keamanan AI adalah Prioritas

Sementara ECB sudah memiliki tangan penuh dengan kelas masalah keamanan siber lainnya, Elderson menyatakan bahwa pengembangan seputar model AI, terutama tingkat kemajuannya, perlu ditangani lebih cepat.

Sementara itu, beberapa bank besar di AS, termasuk JPMorgan Chase, Goldman Sachs, Citigroup, Bank of America, dan Morgan Stanley, telah diizinkan akses pratinjau terkontrol ke Mythos. Tidak ada bank Eropa yang diberi akses ke Mythos pada saat penulisan. Namun, ECB berharap kolaborasi antara pemberi pinjaman AS dan Eropa dalam masalah ini. ECB juga berpikir bank-bank dalam yurisdiksinya perlu bersiap menghadapi ancaman yang dapat ditimbulkan oleh Mythos dan solusi serupa lainnya.

Terkait: ECB menetapkan kondisi untuk tokenisasi di pasar modal Eropa