Buterin Ethereum Menandai Risiko Pengambilalihan Akun Berbasis AI

• Vitalik memperingatkan pertumbuhan AI dapat melucuti kontrol pengguna atas data dan akun digital online.
• Dia mendesak sistem AI lokal dan persetujuan manusia untuk mengurangi risiko dari alat intelijen berbasis cloud.
• Para ahli mengaitkan pandangannya dengan “teknologi suaka”, menjaga kekuasaan keputusan dengan pengguna, bukan platform.

Perdebatan tentang keamanan AI dan kontrol digital telah berkembang setelah salah satu pendiri Ethereum Vitalik Buterin memperingatkan bahwa orang dapat kehilangan kendali atas akun online dan data pribadi mereka karena sistem AI menjadi lebih kuat. Dia menyerukan “identitas, data, dan uang yang berdaulat sendiri,” dengan mengatakan pengguna harus tetap memegang kendali langsung atas kehidupan digital mereka alih-alih mengandalkan platform pihak ketiga atau sistem otomatis.

Peringatan itu muncul ketika kekhawatiran beredar secara online tentang alat AI yang menangani fungsi akun sensitif. Seorang peneliti yang dikenal sebagai Impulsive menuduh bahwa sistem pendukung AI Meta dapat mengubah pengaturan akun Instagram tanpa pemeriksaan identitas yang tepat.

Membangun AI di Sekitar Kontrol Pengguna

Dalam posting blog baru-baru ini berjudul “Pengaturan LLM saya yang berdaulat sendiri / lokal / pribadi / aman,” Vitalik memaparkan pendekatan yang berbeda untuk kecerdasan buatan. Dia mengatakan banyak sistem AI berfokus pada kenyamanan sambil membiarkan privasi dan keamanan terekspos. Dia juga memperingatkan bahwa alat berbasis cloud dapat membuat normal bagi orang untuk berbagi data pribadi sensitif dengan penyedia terpusat besar.

Untuk mengurangi risiko tersebut, Buterin menjelaskan pengaturan yang dibangun di sekitar model AI lokal, penyimpanan data offline, dan isolasi sistem yang ketat. Dia menunjuk pada risiko seperti kebocoran data, petunjuk yang dimanipulasi, pintu belakang perangkat lunak tersembunyi, dan paparan informasi pribadi yang tidak disengaja. Akibatnya, dia mengatakan privasi dan keamanan harus diperlakukan sebagai persyaratan desain dasar, bukan fitur opsional.

Terkait: Michael Burry Menyebut Kesepakatan GPU Nvidia $5.4 miliar ‘Fugazi’

AI Lokal dan Konfirmasi Manusia

Buterin juga menjelaskan alat di balik pengaturannya, termasuk model bahasa lokal, penyimpanan data pribadi, dan sistem sandboxing yang membatasi apa yang dapat diakses oleh agen AI. Dia mengatakan dia juga membangun alat komunikasi yang memungkinkan AI membaca pesan tetapi memerlukan persetujuan manusia sebelum mengirim apa pun ke orang lain.

Dia memperluas ide yang sama ke dompet cryptocurrency. Dalam model itu, AI dapat membantu pengguna mempersiapkan transaksi, tetapi manusia masih akan menyetujui tindakan berisiko lebih tinggi. Dia menyimpulkan pendekatan ini dengan mengatakan, “‘konfirmasi dua faktor’ baru adalah bahwa dua faktor tersebut adalah manusia dan LLM.”

Teknologi Suaka untuk Era AI

Investor Saito mengaitkan pandangan Buterin dengan apa yang dia sebut “teknologi suaka.” Dalam diskusi podcast baru-baru ini, Buterin mengatakan risiko yang lebih besar dari AI bukan hanya kegagalan teknis, tetapi orang yang perlahan-lahan menyerahkan keputusan kepada sistem yang dijalankan oleh perusahaan atau intelijen terpusat.

Dia mengatakan teknologi harus memperluas pilihan pengguna daripada menggantikannya. Dalam pandangannya, Ethereum mewakili sistem alternatif yang dapat diadopsi atau ditinggalkan orang sesuka hati. Dia juga mendorong pengembang untuk membangun alat yang melindungi privasi dan menjaga pengambilan keputusan tetap di tangan pengguna.

Terkait: Binance Menambahkan Lebih dari 7.000 Saham dan ETF AS ke Aplikasi Super Keuangan