d/acc: Tinjauan dan Harapan Setelah Satu Tahun

Tahun lalu, saya menulis sebuah artikel tentang optimisme teknologi, menjelaskan antusiasme saya terhadap teknologi secara keseluruhan dan manfaat besar yang mungkin dibawanya, sambil juga mengungkapkan sikap hati-hati terhadap beberapa masalah tertentu, terutama yang berkaitan dengan masalah kecerdasan buatan super. Jika teknologi ini dibangun dengan cara yang salah, itu bisa membawa risiko yang menghancurkan, atau menyebabkan manusia kehilangan kekuasaan secara tidak dapat dibalik.

Salah satu ide inti yang saya ajukan dalam artikel itu adalah akselerasi defensif yang terdesentralisasi, demokratis, dan beragam. Ini berarti mempercepat perkembangan teknologi, tetapi dengan selektif memfokuskan pada teknologi yang dapat meningkatkan kemampuan pertahanan kita alih-alih merusak, dan berusaha untuk mendistribusikan kekuasaan, bukan mengonsentrasikannya di tangan segelintir elit yang memutuskan benar dan salah atas nama semua orang. Mode pertahanan seharusnya mirip dengan Swiss yang demokratis, serta daerah Zomia yang hampir tanpa pemerintahan dalam sejarah, bukan model tuan dan kastil di bawah feodalisme abad pertengahan.

Sejak saat itu, selama setahun, ide dan konsep ini telah berkembang dan matang secara signifikan. Saya membagikan ide-ide ini di platform "80,000 jam" dan menerima banyak umpan balik, sebagian besar positif, tentu saja ada juga beberapa kritik.

Pekerjaan ini sendiri terus berjalan dan telah mencapai hasil yang nyata: kami melihat kemajuan di bidang vaksin sumber terbuka yang dapat diverifikasi; kesadaran orang tentang nilai udara dalam ruangan yang sehat terus meningkat; "catatan komunitas" terus berperan aktif; pasar prediksi sebagai alat informasi meraih tahun yang luar biasa; bukti pengetahuan non-interaktif yang ringkas tanpa pengetahuan (ZK-SNARKs) telah diterapkan dalam identifikasi pemerintah dan media sosial (dan memastikan keamanan dompet Ethereum melalui abstraksi akun); alat pencitraan sumber terbuka diterapkan dalam bidang medis dan antarmuka otak-mesin (BCI), dan lain-lain.

Musim gugur lalu, kami mengadakan acara d/acc penting pertama: "Hari Penjelajahan d/acc" (d/aDDy), yang diadakan di Devcon. Acara ini mengumpulkan pembicara dari berbagai bidang pilar d/acc (biologi, fisika, jaringan, pertahanan informasi, dan teknologi saraf) dan berlangsung sepanjang hari. Orang-orang yang telah lama berkomitmen pada teknologi ini mulai lebih memahami pekerjaan satu sama lain, sementara orang luar semakin menyadari visi yang lebih besar: nilai-nilai yang mendorong perkembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.

Makna dan Ruang Lingkup d/acc

Bayangkan skenario di tahun 2042. Anda melihat berita di media yang menyebutkan bahwa kota Anda mungkin akan mengalami wabah baru. Berita semacam ini sudah menjadi hal biasa: orang sering bereaksi berlebihan terhadap setiap mutasi penyakit hewan, sementara dalam sebagian besar kasus, mutasi ini pada akhirnya tidak menyebabkan krisis nyata. Dua potensi wabah sebelumnya terdeteksi lebih awal dan berhasil dikendalikan melalui pemantauan limbah dan analisis sumber terbuka di media sosial. Namun, kali ini situasinya berbeda, pasar prediksi menunjukkan kemungkinan munculnya setidaknya 10.000 kasus mencapai 60%, yang membuat Anda merasa khawatir.

Baru kemarin, urutan gen virus tersebut telah ditentukan. Perangkat lunak alat uji udara di saku Anda segera diperbarui, sehingga dapat mendeteksi virus baru (baik melalui tes pernapasan sekali, atau setelah terpapar di dalam ruangan selama 15 menit). Sementara itu, instruksi dan kode sumber terbuka untuk menghasilkan vaksin menggunakan perangkat yang dapat diakses di fasilitas medis modern mana pun di seluruh dunia diperkirakan akan dirilis dalam beberapa minggu ke depan. Sebagian besar orang saat ini belum mengambil tindakan apa pun, terutama bergantung pada langkah-langkah penyaringan udara dan ventilasi yang banyak diterapkan untuk melindungi keselamatan mereka.

Karena Anda memiliki masalah kekebalan, Anda bertindak lebih berhati-hati: asisten AI pribadi lokal open-source yang Anda gunakan, selain menangani tugas-tugas umum seperti navigasi, rekomendasi restoran, dan aktivitas, juga akan mempertimbangkan data pengujian udara waktu nyata dan data karbon dioksida, sehingga hanya merekomendasikan tempat-tempat yang paling aman untuk Anda. Data ini disediakan oleh ribuan peserta dan perangkat, dengan bantuan teknologi ZK-SNARKs dan privasi diferensial, meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain.

Dua bulan kemudian, pandemi secara ajaib menghilang: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu mengenakan masker ketika alat penguji udara mengeluarkan alarm dan menunjukkan adanya virus, dan jika hasil tes individu positif, mereka melakukan isolasi mandiri. Tindakan ini cukup untuk menurunkan tingkat penularan yang sudah sangat berkurang akibat penyaringan udara yang kuat menjadi di bawah 1. Sebuah simulasi menunjukkan penyakit yang mungkin lima kali lebih serius daripada pandemi COVID-19 dua puluh tahun yang lalu, kini tidak menyebabkan dampak serius.

Acara d/acc yang diselenggarakan oleh Devcon telah mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil menyatukan orang-orang dari berbagai bidang dan secara nyata membangkitkan minat mereka terhadap pekerjaan satu sama lain.

Mengadakan acara yang "beragam" bukanlah hal yang sulit, tetapi menjalin hubungan yang erat antara orang-orang dengan latar belakang dan minat yang berbeda adalah hal yang tidak mudah. Saya masih ingat pengalaman dipaksa menonton opera yang panjang selama masa SMP dan SMA, di mana saya merasa opera-opera tersebut membosankan. Saya sangat sadar bahwa saya "seharusnya" menghargainya, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak dapat beresonansi dengan isi opera tersebut pada tingkat yang lebih dalam. Namun, suasana acara d/acc hari itu sangat berbeda: rasanya orang-orang benar-benar senang mengetahui berbagai pekerjaan dari berbagai bidang.

Jika kita ingin membangun masa depan yang lebih cerah daripada kekuasaan, perlambatan, dan penghancuran, maka kita pasti perlu melakukan pembangunan aliansi yang luas. d/acc tampaknya telah mencapai kemajuan yang signifikan dalam hal ini, dan hanya ini saja sudah cukup untuk menunjukkan nilai berharga dari ide ini.

Gagasan inti dari d/acc sangat sederhana dan jelas: desentralisasi, demokratis, dan pertahanan yang berbeda. Membangun teknologi yang dapat mendorong keseimbangan serangan dan pertahanan untuk condong ke arah pertahanan, tanpa bergantung pada penyerahan lebih banyak kekuasaan kepada lembaga otoritas pusat dalam proses implementasinya. Ada hubungan erat yang mendasar antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas cenderung berkembang pesat ketika pertahanan mudah diimplementasikan, sementara menghadapi tantangan besar ketika pertahanan mengalami kesulitan—dalam kasus tersebut, hasil yang lebih mungkin terjadi adalah periode kekacauan di mana semua orang saling bertentangan, akhirnya mencapai keadaan keseimbangan yang dikuasai oleh yang terkuat.

Salah satu cara untuk memahami pentingnya mencoba untuk secara bersamaan mewujudkan desentralisasi, pertahanan, dan percepatan adalah dengan membandingkannya dengan gagasan yang dihasilkan dari melepaskan salah satu dari ketiga aspek ini.

Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan yang berbeda"

Pada dasarnya, ini mirip dengan menjadi seorang akselerasionis yang efektif (e/acc), tetapi dengan mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka dengan bermanfaat menggambarkan fokus mereka sebagai "agresif". Selain itu, ada banyak orang lain yang menunjukkan antusiasme yang lebih moderat terhadap "kecerdasan buatan terdesentralisasi" dan topik serupa, tetapi menurut saya, perhatian mereka terhadap aspek "pertahanan" jelas kurang.

Menurut saya, cara ini mungkin dapat menghindari risiko kelompok tertentu menerapkan kekuasaan diktatorial terhadap umat manusia secara global, tetapi ia tidak berhasil menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang menguntungkan serangan, selalu ada risiko bencana yang terus-menerus, atau seseorang mungkin memposisikan diri sebagai pelindung dan secara permanen menduduki posisi kekuasaan. Dalam hal kecerdasan buatan, ia juga tidak dapat dengan baik mengatasi risiko kekuasaan manusia secara keseluruhan yang tereduksi dibandingkan dengan kecerdasan buatan.

Percepatan pertahanan yang berbeda, tetapi mengabaikan "desentralisasi dan demokrasi"

Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, hal ini selalu memiliki daya tarik tertentu bagi sebagian orang. Pembaca tentu sudah akrab dengan banyak contoh seperti itu, serta kekurangan yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin menjadi satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotesis di mana "setiap orang mengenakan 'label kebebasan'—ini adalah produk lanjutan dari perangkat pemantauan yang dapat dikenakan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan sebagai alternatif penjara di beberapa negara...... video dan audio terenkripsi terus diunggah, dan secara real-time ditafsirkan oleh mesin". Namun, ada masalah tingkat pada kontrol terpusat. Sebuah bentuk kontrol terpusat yang relatif moderat namun tetap berbahaya yang sering diabaikan, tercermin dalam penolakan pengawasan publik di bidang bioteknologi (misalnya makanan, vaksin), serta membiarkan perilaku penolakan ini tidak ditantang oleh norma-norma yang tertutup.

Risiko dari cara ini jelas terlihat, yaitu bahwa pusat itu sendiri sering kali menjadi sumber risiko. Kita telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian fungsional yang didanai oleh banyak pemerintah dunia mungkin menjadi akar penyebab pandemi, epistemologi yang terpusat menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak untuk mengakui bahwa virus COVID-19 ditularkan melalui udara, sementara jarak sosial yang diwajibkan dan mandat vaksin memicu reaksi politik yang mungkin bertahan selama beberapa dekade. Situasi serupa sangat mungkin terjadi lagi dalam konteks risiko terkait kecerdasan buatan atau teknologi berisiko lainnya. Sebaliknya, pendekatan terdesentralisasi akan lebih efektif dalam mengatasi risiko yang berasal dari pusat itu sendiri.

Pertahanan terdesentralisasi, tetapi menolak percepatan

Pada dasarnya, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong resesi ekonomi.

Strategi ini menghadapi tantangan ganda. Pertama, secara keseluruhan, pertumbuhan teknologi dan ekonomi sangat menguntungkan bagi umat manusia, dan setiap penundaan terhadapnya akan membawa biaya yang sulit diukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampaknya masuk akal untuk terus maju dalam pengembangan, akan mendapatkan keuntungan. Strategi perlambatan dapat berfungsi hingga batas tertentu dalam beberapa konteks tertentu: misalnya, makanan Eropa lebih sehat dibandingkan makanan Amerika, ini adalah salah satu contohnya; keberhasilan non-proliferasi nuklir hingga saat ini juga demikian. Namun, strategi ini tidak mungkin berhasil selamanya.

Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:

• Menjaga prinsip dalam tren dunia yang semakin tertribalisasi, bukan hanya membangun berbagai hal secara membabi buta - sebaliknya, kami berharap untuk membangun hal-hal tertentu, sehingga dunia menjadi lebih aman dan lebih baik.
• Menyadari bahwa kemajuan teknologi eksponensial berarti dunia akan menjadi sangat aneh, dan "jejak" manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tumbuhan, dan kelompok rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan keluar adalah terus maju.
• Membangun teknologi yang benar-benar melindungi kita, bukan berdasarkan asumsi "orang baik (atau kecerdasan buatan yang baik) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif untuk membangun dan melindungi daripada untuk merusak.

Satu perspektif lain untuk memikirkan d/acc adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir 2000-an: pemberdayaan.

Tujuan kami adalah membangun dunia yang dapat mempertahankan agensi manusia, mewujudkan kebebasan negatif, yaitu menghindari intervensi aktif dari orang lain (baik itu warga sipil biasa, pemerintah, atau robot super pintar) terhadap kemampuan kami untuk membentuk nasib kami sendiri, sambil mewujudkan kebebasan positif, yaitu memastikan bahwa kami memiliki pengetahuan dan sumber daya untuk melaksanakan kemampuan ini. Ini sejalan dengan