Vitalik Buterin memperingatkan tentang risiko AI dalam tata kelola blockchain

Vitalik Buterin, pendiri Ethereum, baru-baru ini membagikan pandangannya mengenai perdebatan yang semakin meningkat: risiko yang terkait dengan kecerdasan buatan (IA) dalam sistem pemerintahan terdesentralisasi.

Pengembang Rusia-Kanada bereaksi terhadap publikasi Eito Muyamura, promotor proyek Edison Watch, sebuah solusi yang dirancang untuk memantau dan mencegah kebocoran data melalui interaksi dengan AI. Inisiatif ini lahir setelah pengenalan baru-baru ini dari protokol Model Context Protocol (MCP) oleh OpenAI dalam ChatGPT, yang memungkinkan alat tersebut terhubung ke Gmail, kalender, dan aplikasi lainnya.

Melalui sebuah video demonstrasi, Muyamura menunjukkan bagaimana para penyerang dapat berpotensi mengakses data pribadi yang dibagikan dengan OpenAI. "Inilah masalah mendasar: agen AI seperti ChatGPT mengikuti perintah Anda, bukan akal sehat Anda. Dengan hanya alamat email Anda, kami dapat mengekstrak semua informasi pribadi Anda," tegas Muyamura, menambahkan bahwa "AI bisa sangat cerdas, tetapi bisa dengan mudah ditipu dan dimanipulasi untuk mengungkapkan data-data tersebut."

Bahaya pemerintahan berbasis AI menurut Buterin

Dengan membagikan publikasi ini di akun X-nya, Buterin mengambil kesempatan untuk mengekspresikan pandangannya tentang masalah tersebut. "Itulah mengapa 'pemerintahan oleh IA' yang naif adalah ide yang buruk. Jika Anda menggunakan IA untuk mengalokasikan dana untuk kontribusi, orang-orang akan menggunakan teknik prompt injection dan berusaha mendapatkan 'semua uang' dengan segala cara yang mungkin," katanya.

"Governance by AI" mengacu pada sistem yang membuat keputusan otomatis mengenai sumber daya atau tindakan, misalnya alokasi dana atau penetapan kontribusi, berdasarkan aturan yang ditentukan oleh AI. Buterin tidak secara kebetulan menggunakan istilah "naif"; ia lebih menekankan risiko berasumsi bahwa pengguna akan selalu memberikan instruksi yang benar kepada AI, padahal kenyataannya, mereka mungkin mengeksploitasi sistem melalui teknik penghindaran untuk mendapatkan keuntungan yang tidak semestinya.

Prompt injection, yang sering disebut "jailbreaking" dalam konteks AI generatif, merujuk pada teknik di mana aktor jahat memanipulasi model AI agar mengabaikan pembatasan keamanan atau kebijakan internal, misalnya dengan meminta tindakan yang seharusnya dilarang.

Risiko untuk protokol terdesentralisasi

Bagi pendiri Ethereum, ada risiko nyata dalam mentransfer pemerintahan protokol terdesentralisasi kepada AI. Di platform DeFi tradisional, keputusan umumnya diambil melalui suara komunitas, biasanya oleh mereka yang memiliki token tertentu atau memenuhi kriteria tertentu, dan berkaitan dengan perubahan, perbaikan, atau tindakan yang harus diambil dalam protokol.

Namun, jika model pemerintahan yang berbasis AI diterapkan, ini membuka pintu untuk potensi manipulasi yang dapat menghasilkan keuntungan yang tidak semestinya, seperti pencurian uang atau data pribadi.

Pendekatan alternatif yang diusulkan

Sebagai alternatif, Buterin menyatakan bahwa ia "mendukung pendekatan pendanaan informasi, di mana terdapat pasar terbuka di mana siapa saja dapat berkontribusi dengan model-modelnya, yang kemudian akan dinilai melalui mekanisme penilaian sejawat yang dapat diaktifkan oleh siapa saja dan dievaluasi oleh juri manusia."

Dia mengembangkan lebih lanjut ide ini:

Jenis pendekatan "desain institusional" ini, yang menciptakan peluang terbuka bagi aktor eksternal untuk mengintegrasikan LLM (model bahasa besar) mereka daripada memprogram secara kaku milik mereka sendiri, secara intrinsik lebih kuat. Ini karena ia menawarkan keragaman model secara real-time dan menciptakan insentif internal bagi kontributor model dan pengamat eksternal untuk waspada terhadap masalah ini dan memperbaikinya dengan cepat.

Dalam pendekatan ini, berbagai peserta dapat berkontribusi dengan model keputusan mereka, yang kemudian diverifikasi dan dievaluasi oleh juri manusia. Keuntungannya adalah bahwa ini mendorong keberagaman ide, memungkinkan perbaikan cepat atas kesalahan, dan menciptakan insentif agar pembuat model dan anggota komunitas tetap waspada dan bertanggung jawab.

Tujuan akhirnya adalah untuk mencapai tata kelola yang lebih terdistribusi dan dinamis, sehingga menghindari ketergantungan pada satu model terpusat, yang merupakan prinsip dasar dari filosofi blockchain yang diperjuangkan oleh Buterin sejak penciptaan Ethereum.