Manus mencapai hasil terobosan dalam uji coba Benchmark GAIA, memicu kontroversi mengenai jalur pengembangan AI

Manus menunjukkan kinerja yang luar biasa dalam pengujian Benchmark GAIA, melampaui model bahasa besar sekelas. Pencapaian ini menunjukkan bahwa Manus memiliki kemampuan untuk menyelesaikan tugas kompleks secara mandiri, seperti menangani negosiasi bisnis lintas negara, termasuk analisis ketentuan kontrak, perumusan strategi, dan pengembangan solusi di berbagai tahap. Keunggulan Manus terutama terletak pada tiga aspek: dekomposisi tujuan yang dinamis, penalaran lintas moda, dan pembelajaran yang diperkuat memori. Ia mampu membagi tugas kompleks menjadi ratusan sub-tugas yang dapat dieksekusi, sekaligus memproses berbagai jenis data, dan terus meningkatkan efisiensi pengambilan keputusan serta mengurangi tingkat kesalahan melalui pembelajaran penguatan.

Kemunculan Manus kembali memicu diskusi di industri mengenai jalur perkembangan AI: Apakah masa depan menuju ke model seragam kecerdasan buatan umum (AGI) atau dominasi kolaboratif sistem multi-agent (MAS)?

Masalah ini melibatkan filosofi desain Manus, yang menyiratkan dua kemungkinan arah pengembangan:

1. Jalur AGI: Meningkatkan kemampuan sistem kecerdasan tunggal secara terus menerus, sehingga secara bertahap mendekati tingkat pengambilan keputusan komprehensif manusia.

2. Jalur MAS: Menempatkan Manus sebagai koordinator super, mengarahkan ribuan agen di berbagai bidang keahlian untuk bekerja sama.

Secara permukaan, ini adalah tentang perbedaan jalur teknologi, tetapi pada kenyataannya mencerminkan kontradiksi mendasar dalam perkembangan AI: bagaimana menyeimbangkan efisiensi dan keamanan? Ketika sistem cerdas tunggal semakin mendekati AGI, risiko ketidaktransparan proses pengambil keputusan semakin tinggi; sementara kolaborasi multi-agen dapat mendistribusikan risiko, tetapi mungkin kehilangan momen pengambilan keputusan yang krusial karena keterlambatan komunikasi.

Kemajuan Manus secara tidak langsung memperbesar risiko yang melekat pada pengembangan AI. Misalnya:

1. Masalah privasi data: Di bidang medis, Manus mungkin perlu mengakses data genom pasien secara real-time; dalam negosiasi keuangan, mungkin melibatkan informasi keuangan perusahaan yang tidak dipublikasikan.

2. Bias algoritma: Dalam proses perekrutan, Manus mungkin memberikan saran gaji yang tidak adil untuk kelompok tertentu; dalam tinjauan kontrak hukum, tingkat kesalahan dalam ketentuan industri baru dapat mencapai 50%.

3. Kerentanan serangan adversarial: Hacker dapat menyisipkan sinyal audio tertentu, menyebabkan Manus salah menilai rentang tawaran lawan dalam negosiasi.

Masalah-masalah ini menyoroti tren yang mengkhawatirkan: semakin kuat sistem cerdas, semakin luas juga potensi permukaan serangannya.

Di bidang Web3, keamanan selalu menjadi topik yang sangat diperhatikan. Teori "trias impossible" yang diajukan oleh pendiri Ethereum, V God, (jaringan blockchain tidak dapat mencapai keamanan, desentralisasi, dan skalabilitas secara bersamaan) telah menginspirasi perkembangan berbagai teknologi kripto:

1. Model Keamanan Zero Trust: Mengikuti prinsip "Tidak Pernah Percaya, Selalu Memverifikasi", melakukan otentikasi dan otorisasi yang ketat untuk setiap permintaan akses.

2. Identitas Terdesentralisasi (DID): suatu standar pengenalan identitas yang tidak memerlukan lembaga pendaftaran terpusat, yang mewujudkan manajemen identitas digital terdesentralisasi yang baru.

3. Enkripsi Homomorfik Penuh (FHE): memungkinkan perhitungan data dalam keadaan terenkripsi, cocok untuk skenario komputasi awan dan outsourcing data yang memerlukan perlindungan data asli.

Dalam teknologi ini, enkripsi homomorfik sepenuhnya dianggap sebagai teknologi kunci untuk mengatasi masalah keamanan di era AI. Ini dapat memberikan perlindungan pada beberapa tingkat berikut:

1. Tingkat data: Semua informasi yang dimasukkan oleh pengguna (termasuk fitur biometrik, suara, dll.) diproses dalam keadaan terenkripsi, bahkan Manus itu sendiri tidak dapat mendekripsi data asli.

2. Tingkat algoritma: Mewujudkan "pelatihan model terenkripsi" melalui FHE, sehingga bahkan pengembang pun tidak dapat langsung memahami proses pengambilan keputusan AI.

3. Tingkat kolaborasi: Komunikasi antara beberapa agen cerdas menggunakan enkripsi ambang, bahkan jika satu node diserang, tidak akan mengakibatkan kebocoran data global.

Meskipun teknologi keamanan Web3 mungkin tampak jauh bagi pengguna biasa, mereka sangat terkait dengan kepentingan setiap orang. Dalam lingkungan yang penuh tantangan ini, memperkuat langkah-langkah keamanan secara terus-menerus adalah kunci untuk menghindari menjadi "bawang merah".

Beberapa proyek yang patut diperhatikan termasuk:

• uPort: mungkin merupakan proyek identitas terdesentralisasi pertama yang diluncurkan di jaringan utama Ethereum.
• NKN: Telah membuat kemajuan dalam model keamanan zero trust.
• Mind Network: Sebagai proyek FHE pertama yang diluncurkan di mainnet, telah menjalin kerjasama dengan beberapa lembaga terkenal.

Meskipun proyek keamanan sering kali tidak disukai oleh para spekulan, mereka sangat penting bagi perkembangan jangka panjang teknologi AI dan blockchain. Seiring teknologi AI semakin mendekati tingkat kecerdasan manusia, sistem pertahanan non-tradisional menjadi semakin penting. FHE tidak hanya dapat menyelesaikan masalah keamanan saat ini, tetapi juga membangun dasar untuk era AI kuat di masa depan. Dalam perjalanan menuju AGI, FHE telah berubah dari pilihan menjadi kebutuhan untuk bertahan hidup.