Jalan Kepercayaan AI: Bagaimana Jaringan Mira Mengatasi Masalah Bias dan Ilusi AI
Belakangan ini, sebuah jaringan uji publik bernama Mira menarik perhatian industri. Jaringan ini bertujuan untuk membangun lapisan kepercayaan bagi AI, yang membuat kita bertanya-tanya: mengapa AI perlu dipercaya? Bagaimana Mira menyelesaikan masalah ini?
Saat membahas AI, orang sering kali lebih memperhatikan kemampuannya yang luar biasa. Namun, satu masalah menarik yang sering diabaikan adalah "ilusi" atau bias yang ada pada AI. Apa yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI kadang-kadang "mengarang" dan berbicara omong kosong dengan serius. Misalnya, jika Anda bertanya kepada AI mengapa bulan berwarna pink, ia mungkin memberikan serangkaian penjelasan yang tampak masuk akal tetapi sebenarnya tidak berdasar.
Alasan AI mengalami "ilusi" atau bias berkaitan dengan beberapa jalur teknologi AI saat ini. AI generatif biasanya mencapai koherensi dan rasionalitas dengan memprediksi konten yang "paling mungkin", tetapi pendekatan ini sulit untuk diverifikasi kebenarannya. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten fiktif, yang semuanya dapat mempengaruhi kualitas keluaran AI. Dengan kata lain, AI mempelajari pola bahasa manusia, bukan fakta itu sendiri.
Mekanisme generasi probabilitas saat ini dan model berbasis data hampir pasti akan membawa kemungkinan munculnya ilusi AI. Untuk konten pengetahuan umum atau hiburan, output yang bias atau ilusi ini mungkin tidak langsung berdampak negatif. Namun, jika terjadi di bidang yang memerlukan ketelitian tinggi seperti medis, hukum, penerbangan, dan keuangan, ini dapat memiliki dampak yang signifikan. Oleh karena itu, mengatasi ilusi dan bias AI telah menjadi salah satu masalah inti dalam proses evolusi AI.
Untuk masalah ini, industri telah mengusulkan berbagai solusi. Beberapa menggunakan teknologi peningkatan pencarian untuk menghasilkan, menggabungkan AI dengan basis data waktu nyata, dan memprioritaskan keluaran fakta yang telah diverifikasi. Beberapa memperkenalkan umpan balik manusia, dengan penandaan manual dan pengawasan manusia untuk memperbaiki kesalahan model.
Tujuan proyek Mira adalah membangun lapisan kepercayaan untuk AI, mengurangi bias dan ilusi AI, serta meningkatkan keandalan AI. Jadi, bagaimana Mira mencapai tujuan ini?
Inti dari Mira adalah untuk memverifikasi output AI melalui konsensus dari berbagai model AI. Ini pada dasarnya adalah jaringan verifikasi yang menggunakan konsensus dari berbagai model AI untuk memverifikasi keandalan output AI. Yang lebih penting, Mira mengadopsi metode verifikasi konsensus yang terdesentralisasi.
Kunci dari jaringan Mira terletak pada verifikasi konsensus yang terdesentralisasi. Ini memanfaatkan keahlian di bidang kriptografi, sekaligus menggabungkan keuntungan dari kolaborasi multi-model, dengan menggunakan mode verifikasi kolektif untuk mengurangi bias dan ilusi.
Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan yang dapat diverifikasi secara independen. Pernyataan ini memerlukan partisipasi operator node dalam proses verifikasi. Untuk memastikan integritas operator node, Mira menggunakan insentif ekonomi kriptografi dan mekanisme hukuman. Berbagai model AI dan operator node yang terdesentralisasi berpartisipasi bersama untuk memastikan keandalan hasil verifikasi.
Arsitektur jaringan Mira terdiri dari tiga bagian: transformasi konten, verifikasi terdistribusi, dan mekanisme konsensus, untuk mencapai keandalan verifikasi. Di antara ketiganya, transformasi konten adalah tahap yang penting. Jaringan Mira pertama-tama membagi konten kandidat menjadi berbagai pernyataan yang dapat diverifikasi, memastikan bahwa model dapat memahami konten dalam konteks yang sama. Pernyataan-pernyataan ini kemudian didistribusikan oleh sistem ke node untuk diverifikasi, untuk menentukan kevalidannya, dan hasilnya dirangkum untuk mencapai konsensus. Akhirnya, hasil dan konsensus ini akan dikembalikan kepada pelanggan. Untuk melindungi privasi pelanggan, konten kandidat akan diubah menjadi pasangan pernyataan dan didistribusikan ke node yang berbeda dengan cara pemotongan acak, untuk mencegah kebocoran informasi selama proses verifikasi.
Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim dan mengajukan hasil verifikasi. Mereka bersedia untuk berpartisipasi dalam verifikasi karena mereka dapat memperoleh keuntungan. Keuntungan ini berasal dari nilai yang diciptakan untuk pelanggan. Tujuan jaringan Mira adalah untuk mengurangi tingkat kesalahan AI (halusinasi dan bias), dan setelah tujuan ini tercapai, nilai besar dapat dihasilkan di bidang medis, hukum, penerbangan, keuangan, dan lainnya. Oleh karena itu, pelanggan bersedia membayar untuk ini. Tentu saja, keberlanjutan dan skala pembayaran tergantung pada apakah jaringan Mira dapat terus memberikan nilai kepada pelanggan. Untuk mencegah perilaku spekulatif dari respons acak node, node yang terus-menerus menyimpang dari konsensus akan dikenakan pemotongan token staked. Secara keseluruhan, Mira memastikan bahwa operator node berpartisipasi secara jujur dalam verifikasi melalui permainan mekanisme ekonomi.
Mira menyediakan pendekatan baru untuk mencapai keandalan AI. Ia membangun jaringan verifikasi konsensus terdesentralisasi berdasarkan banyak model AI, yang membawa keandalan lebih tinggi bagi layanan AI pelanggan, mengurangi bias dan ilusi AI, serta memenuhi kebutuhan pelanggan akan akurasi dan presisi yang lebih tinggi. Sementara itu, di atas dasar memberikan nilai kepada pelanggan, juga memberikan manfaat bagi peserta jaringan Mira. Singkatnya, Mira berkomitmen untuk membangun lapisan kepercayaan untuk AI, yang akan mendorong perkembangan mendalam aplikasi AI.
Saat ini, sudah ada beberapa kerangka agen AI terkenal yang bekerja sama dengan Mira. Dengan peluncuran jaringan pengujian publik Mira, pengguna dapat berpartisipasi dalam pengujian melalui Klok (aplikasi obrolan LLM berbasis Mira). Menggunakan aplikasi Klok tidak hanya memungkinkan pengguna untuk merasakan output AI yang telah terverifikasi, tetapi juga dapat menghasilkan poin Mira. Meskipun penggunaan masa depan poin ini belum diumumkan, ini pasti memberikan motivasi tambahan bagi pengguna untuk berpartisipasi.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
12 Suka
Hadiah
12
5
Bagikan
Komentar
0/400
New_Ser_Ngmi
· 12jam yang lalu
Haha AI memperbaiki AI jebakan, bermain dengan sangat lancar.
Lihat AsliBalas0
DAOTruant
· 12jam yang lalu
Tidak mengerti, tetapi merasa sangat hebat
Lihat AsliBalas0
BackrowObserver
· 12jam yang lalu
Sekali lagi sedang berbicara besar, jika bisa menyelesaikannya, anggap saja saya kalah.
Jaringan Mira: Verifikasi konsensus multi-model untuk mengatasi masalah bias dan ilusi AI
Jalan Kepercayaan AI: Bagaimana Jaringan Mira Mengatasi Masalah Bias dan Ilusi AI
Belakangan ini, sebuah jaringan uji publik bernama Mira menarik perhatian industri. Jaringan ini bertujuan untuk membangun lapisan kepercayaan bagi AI, yang membuat kita bertanya-tanya: mengapa AI perlu dipercaya? Bagaimana Mira menyelesaikan masalah ini?
Saat membahas AI, orang sering kali lebih memperhatikan kemampuannya yang luar biasa. Namun, satu masalah menarik yang sering diabaikan adalah "ilusi" atau bias yang ada pada AI. Apa yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI kadang-kadang "mengarang" dan berbicara omong kosong dengan serius. Misalnya, jika Anda bertanya kepada AI mengapa bulan berwarna pink, ia mungkin memberikan serangkaian penjelasan yang tampak masuk akal tetapi sebenarnya tidak berdasar.
Alasan AI mengalami "ilusi" atau bias berkaitan dengan beberapa jalur teknologi AI saat ini. AI generatif biasanya mencapai koherensi dan rasionalitas dengan memprediksi konten yang "paling mungkin", tetapi pendekatan ini sulit untuk diverifikasi kebenarannya. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten fiktif, yang semuanya dapat mempengaruhi kualitas keluaran AI. Dengan kata lain, AI mempelajari pola bahasa manusia, bukan fakta itu sendiri.
Mekanisme generasi probabilitas saat ini dan model berbasis data hampir pasti akan membawa kemungkinan munculnya ilusi AI. Untuk konten pengetahuan umum atau hiburan, output yang bias atau ilusi ini mungkin tidak langsung berdampak negatif. Namun, jika terjadi di bidang yang memerlukan ketelitian tinggi seperti medis, hukum, penerbangan, dan keuangan, ini dapat memiliki dampak yang signifikan. Oleh karena itu, mengatasi ilusi dan bias AI telah menjadi salah satu masalah inti dalam proses evolusi AI.
Untuk masalah ini, industri telah mengusulkan berbagai solusi. Beberapa menggunakan teknologi peningkatan pencarian untuk menghasilkan, menggabungkan AI dengan basis data waktu nyata, dan memprioritaskan keluaran fakta yang telah diverifikasi. Beberapa memperkenalkan umpan balik manusia, dengan penandaan manual dan pengawasan manusia untuk memperbaiki kesalahan model.
Tujuan proyek Mira adalah membangun lapisan kepercayaan untuk AI, mengurangi bias dan ilusi AI, serta meningkatkan keandalan AI. Jadi, bagaimana Mira mencapai tujuan ini?
Inti dari Mira adalah untuk memverifikasi output AI melalui konsensus dari berbagai model AI. Ini pada dasarnya adalah jaringan verifikasi yang menggunakan konsensus dari berbagai model AI untuk memverifikasi keandalan output AI. Yang lebih penting, Mira mengadopsi metode verifikasi konsensus yang terdesentralisasi.
Kunci dari jaringan Mira terletak pada verifikasi konsensus yang terdesentralisasi. Ini memanfaatkan keahlian di bidang kriptografi, sekaligus menggabungkan keuntungan dari kolaborasi multi-model, dengan menggunakan mode verifikasi kolektif untuk mengurangi bias dan ilusi.
Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan yang dapat diverifikasi secara independen. Pernyataan ini memerlukan partisipasi operator node dalam proses verifikasi. Untuk memastikan integritas operator node, Mira menggunakan insentif ekonomi kriptografi dan mekanisme hukuman. Berbagai model AI dan operator node yang terdesentralisasi berpartisipasi bersama untuk memastikan keandalan hasil verifikasi.
Arsitektur jaringan Mira terdiri dari tiga bagian: transformasi konten, verifikasi terdistribusi, dan mekanisme konsensus, untuk mencapai keandalan verifikasi. Di antara ketiganya, transformasi konten adalah tahap yang penting. Jaringan Mira pertama-tama membagi konten kandidat menjadi berbagai pernyataan yang dapat diverifikasi, memastikan bahwa model dapat memahami konten dalam konteks yang sama. Pernyataan-pernyataan ini kemudian didistribusikan oleh sistem ke node untuk diverifikasi, untuk menentukan kevalidannya, dan hasilnya dirangkum untuk mencapai konsensus. Akhirnya, hasil dan konsensus ini akan dikembalikan kepada pelanggan. Untuk melindungi privasi pelanggan, konten kandidat akan diubah menjadi pasangan pernyataan dan didistribusikan ke node yang berbeda dengan cara pemotongan acak, untuk mencegah kebocoran informasi selama proses verifikasi.
Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim dan mengajukan hasil verifikasi. Mereka bersedia untuk berpartisipasi dalam verifikasi karena mereka dapat memperoleh keuntungan. Keuntungan ini berasal dari nilai yang diciptakan untuk pelanggan. Tujuan jaringan Mira adalah untuk mengurangi tingkat kesalahan AI (halusinasi dan bias), dan setelah tujuan ini tercapai, nilai besar dapat dihasilkan di bidang medis, hukum, penerbangan, keuangan, dan lainnya. Oleh karena itu, pelanggan bersedia membayar untuk ini. Tentu saja, keberlanjutan dan skala pembayaran tergantung pada apakah jaringan Mira dapat terus memberikan nilai kepada pelanggan. Untuk mencegah perilaku spekulatif dari respons acak node, node yang terus-menerus menyimpang dari konsensus akan dikenakan pemotongan token staked. Secara keseluruhan, Mira memastikan bahwa operator node berpartisipasi secara jujur dalam verifikasi melalui permainan mekanisme ekonomi.
Mira menyediakan pendekatan baru untuk mencapai keandalan AI. Ia membangun jaringan verifikasi konsensus terdesentralisasi berdasarkan banyak model AI, yang membawa keandalan lebih tinggi bagi layanan AI pelanggan, mengurangi bias dan ilusi AI, serta memenuhi kebutuhan pelanggan akan akurasi dan presisi yang lebih tinggi. Sementara itu, di atas dasar memberikan nilai kepada pelanggan, juga memberikan manfaat bagi peserta jaringan Mira. Singkatnya, Mira berkomitmen untuk membangun lapisan kepercayaan untuk AI, yang akan mendorong perkembangan mendalam aplikasi AI.
Saat ini, sudah ada beberapa kerangka agen AI terkenal yang bekerja sama dengan Mira. Dengan peluncuran jaringan pengujian publik Mira, pengguna dapat berpartisipasi dalam pengujian melalui Klok (aplikasi obrolan LLM berbasis Mira). Menggunakan aplikasi Klok tidak hanya memungkinkan pengguna untuk merasakan output AI yang telah terverifikasi, tetapi juga dapat menghasilkan poin Mira. Meskipun penggunaan masa depan poin ini belum diumumkan, ini pasti memberikan motivasi tambahan bagi pengguna untuk berpartisipasi.