Manus mencapai hasil terobosan dalam uji coba Benchmark GAIA, memicu perdebatan tentang jalur pengembangan AI

Baru-baru ini, Manus mencapai hasil yang luar biasa dalam pengujian Benchmark GAIA, dengan kinerja yang melampaui model bahasa besar selevel. Prestasi ini menunjukkan bahwa Manus memiliki kemampuan untuk menyelesaikan tugas kompleks secara mandiri, seperti negosiasi bisnis lintas negara, termasuk pemecahan ketentuan kontrak, prediksi strategi, pengembangan proposal, dan bahkan dapat mengoordinasikan tim hukum dan keuangan.

Keunggulan Manus terutama terletak pada tiga aspek: kemampuan pemecahan tujuan dinamis, kemampuan penalaran lintas moda, dan kemampuan pembelajaran yang ditingkatkan melalui memori. Ini dapat memecah tugas besar menjadi ratusan subtugas yang dapat dieksekusi, sekaligus memproses berbagai jenis data, dan terus meningkatkan efisiensi pengambilan keputusan serta mengurangi tingkat kesalahan melalui pembelajaran penguatan.

Kemajuan ini sekali lagi memicu diskusi di industri tentang jalur evolusi AI: Apakah masa depan menuju ke kecerdasan buatan umum (AGI) yang mendominasi, atau sistem multi-agen (MAS) yang berkolaborasi menguasai?

Konsep desain Manus mengandung dua kemungkinan:

1. Jalur AGI: Meningkatkan tingkat kecerdasan individu secara berkelanjutan, sehingga mendekati kemampuan pengambilan keputusan komprehensif manusia.

2. Jalur MAS: Sebagai koordinator super, mengarahkan ribuan agen di berbagai bidang untuk bekerja sama.

Secara superficial, ini adalah perdebatan tentang berbagai jalur pengembangan, tetapi sebenarnya mencerminkan kontradiksi inti dalam perkembangan AI: bagaimana menyeimbangkan efisiensi dan keamanan. Ketika kecerdasan tunggal semakin mendekati AGI, risiko ketidaktransparanan dalam pengambilan keputusan semakin tinggi; sementara kolaborasi multi-agen dapat mendistribusikan risiko, namun mungkin kehilangan momen pengambilan keputusan yang krusial karena keterlambatan komunikasi.

Kemajuan Manus secara tidak langsung memperbesar risiko inheren dalam perkembangan AI, termasuk:

1. Masalah privasi data: Dalam konteks medis, diperlukan akses real-time ke data sensitif pasien; dalam negosiasi keuangan, mungkin melibatkan informasi laporan keuangan perusahaan yang belum dipublikasikan.

2. Bias algoritma: Dalam negosiasi perekrutan, mungkin memberikan saran gaji yang tidak adil kepada kelompok tertentu; dalam pemeriksaan kontrak hukum, tingkat kesalahan dalam menilai ketentuan industri baru relatif tinggi.

3. Kerentanan serangan adversarial: Hacker dapat menyisipkan frekuensi suara tertentu, yang menyebabkan sistem salah menilai rentang penawaran lawan selama negosiasi.

Masalah-masalah ini menyoroti sebuah kenyataan yang serius: semakin cerdas sistem, semakin luas juga permukaan serangannya.

Di bidang Web3, keamanan selalu menjadi topik yang sangat diperhatikan. Berbagai solusi teknologi kripto telah muncul seputar tema ini:

1. Model keamanan zero trust: menekankan pada verifikasi dan otorisasi identitas yang ketat untuk setiap permintaan akses.

2. Identitas Terdesentralisasi (DID): Mewujudkan identifikasi tanpa registri terpusat.

3. Enkripsi Homomorfik Penuh (FHE): memungkinkan perhitungan pada data terenkripsi tanpa mendekripsi data.

Di antaranya, enkripsi homomorfik dianggap sebagai teknologi kunci untuk menyelesaikan masalah keamanan di era AI. Ini dapat memberikan perlindungan pada beberapa level berikut:

• Aspek data: Semua informasi yang dimasukkan pengguna diproses dalam keadaan terenkripsi, bahkan sistem AI itu sendiri tidak dapat mendekripsi data asli.

• Tingkat algoritma: Mewujudkan "pelatihan model terenkripsi" melalui FHE, memastikan bahkan pengembang pun tidak dapat mengintip jalur keputusan AI.

• Tingkat kolaborasi: Komunikasi antara beberapa agen cerdas menggunakan enkripsi ambang untuk mencegah kebocoran titik tunggal yang menyebabkan data global terungkap.

Meskipun teknologi keamanan Web3 mungkin tidak memiliki keterkaitan langsung dengan pengguna biasa, mereka sangat penting untuk melindungi kepentingan pengguna. Dalam bidang yang penuh ketidakpastian ini, memperkuat perlindungan keamanan adalah langkah yang diperlukan untuk menghindari menjadi "bahan panen".

Dalam sejarah, sudah ada beberapa proyek yang menjelajahi bidang keamanan Web3:

• uPort diluncurkan di jaringan utama Ethereum pada tahun 2017, merupakan salah satu proyek identitas terdesentralisasi yang lebih awal.
• NKN meluncurkan mainnet yang didasarkan pada model keamanan zero trust pada tahun 2019.
• Sebuah jaringan adalah proyek FHE pertama yang diluncurkan di mainnet, dan telah menjalin kerja sama dengan banyak institusi terkenal.

Seiring dengan teknologi AI yang semakin mendekati tingkat kecerdasan manusia, sistem pertahanan non-tradisional menjadi semakin penting. Teknologi keamanan seperti FHE tidak hanya dapat menyelesaikan masalah saat ini, tetapi juga meletakkan dasar untuk era AI kuat di masa depan. Dalam perjalanan menuju AGI, teknologi keamanan ini tidak lagi menjadi pilihan, tetapi merupakan kebutuhan untuk bertahan hidup.