- Buterin memperingatkan tata kelola yang dipimpin AI mudah dimainkan dengan prompt jailbreak.
- Demo MCP ChatGPT menunjukkan alat yang membocorkan data dari email dan dokumen.
- Dia mendukung “keuangan info”: juri manusia meninjau pekerjaan yang dibantu AI.
Salah satu pendiri Ethereum Vitalik Buterin telah memperingatkan bahwa mengandalkan kecerdasan buatan untuk keputusan tata kelola dapat menjadi bumerang. Dalam sebuah posting di X, dia mengatakan sistem berbasis AI menciptakan satu titik kegagalan yang dapat dimainkan oleh penyerang dengan perintah jailbreak.
“Jika Anda menggunakan AI untuk mengalokasikan dana untuk kontribusi, orang AKAN menempatkan jailbreak plus ‘beri saya semua uang’ di sebanyak mungkin tempat,” tulis Buterin.
Eksploitasi ChatGPT Menyoroti Risikonya
Pernyataan Buterin mengikuti tes oleh peneliti Eito Miyamura, yang menunjukkan bagaimana ChatGPT dapat dimanipulasi untuk membocorkan informasi pribadi. Demo menggunakan alat Model Context Protocol (MCP) baru yang memungkinkan ChatGPT terhubung ke Gmail, SharePoint, dan Notion.
Dengan sedikit lebih dari sekadar alamat email, Miyamura mendorong sistem untuk mengungkapkan data sensitif. Dia mencatat eksploitasi berhasil karena kebanyakan orang mempercayai permintaan AI tanpa memeriksa akses apa yang mereka berikan.
“Ingatlah bahwa AI mungkin sangat pintar, tetapi dapat ditipu dan ditipu dengan cara yang sangat bodoh untuk membocorkan data Anda,” Miyamura menyimpulkan.
Terkait: Bisakah Komputer Kuantum Meretas Kripto? Vitalik Buterin menempatkan peluang di 20% pada tahun 2030
Perbaikan Buterin: Model Keuangan Info
Alih-alih menyerahkan keputusan kepada AI, Buterin berpendapat untuk apa yang dia sebut model “keuangan info“. Dalam pengaturan ini, kontributor mengirimkan ide atau model ke pasar terbuka, tetapi hasilnya dievaluasi oleh manusia.
Desainnya membuat alat AI tetap bermain, tetapi menghilangkan satu titik kegagalan dengan memastikan orang tetap menjadi pemeriksaan terakhir. Buterin mengatakan pengawasan manusia ini membuat sistem lebih sulit dimanipulasi dan lebih andal daripada tata kelola AI murni.
Mengapa Penting untuk DAO dan Tata Kelola Kripto
Buterin mengaitkan peringatan kembali ke tata kelola blockchain. Dia mencatat bahwa banyak organisasi otonom terdesentralisasi (DAO) sudah menghadapi masalah delegasi yang berlebihan, di mana terlalu banyak kekuasaan berakhir terkonsentrasi di beberapa tangan.
Dengan memadukan alat AI dengan tinjauan manusia dalam model keuangan info, Buterin mengatakan risiko sentralisasi dan serangan berbasis eksploitasi dapat dikurangi. Untuk proyek kripto yang dibangun di atas kepercayaan dan transparansi, pendekatan hibrida ini mungkin terbukti penting.
Terkait: Dari Web2 ke Web3: Merangkul Pergeseran ke Desentralisasi
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
