OPML: Solusi Pembelajaran Mesin Blockchain yang Efisien
OPML(Optimistic machine learning) adalah metode inovatif untuk inferensi dan pelatihan model AI blockchain. Dibandingkan dengan ZKML, OPML memiliki keunggulan biaya rendah dan efisiensi tinggi. Bahkan di PC biasa, model bahasa besar seperti 26GB 7B-LLaMA dapat dijalankan.
OPML menggunakan mekanisme permainan verifikasi, mirip dengan sistem Truebit dan Optimistic Rollup, untuk mewujudkan layanan ML yang terdesentralisasi dan dapat diverifikasi. Prosesnya mencakup:
Pengirim mengajukan tugas ML
Server menjalankan tugas dan mengirimkan hasil ke blockchain
Validator memeriksa hasil, jika ada keberatan maka memulai permainan verifikasi
Melakukan arbitrase akhir di atas kontrak pintar
Permainan verifikasi satu tahap OPML menggunakan protokol penentuan lokasi yang tepat, melalui mesin virtual (VM) untuk pelaksanaan off-chain dan arbitrase on-chain. Untuk meningkatkan efisiensi inferensi AI, OPML menggunakan pustaka DNN ringan yang dirancang khusus, dan menyediakan skrip konversi untuk mendukung kerangka kerja ML utama. Citra VM dikelola menggunakan pohon Merkle, hanya mengunggah hash root ke on-chain.
Namun, permainan verifikasi satu tahap terbatas pada eksekusi di dalam VM dan tidak dapat memanfaatkan akselerasi GPU/TPU secara maksimal. Untuk itu, OPML mengusulkan skema permainan verifikasi multi-tahap. Pada tahap non-final, perhitungan dapat dilakukan secara fleksibel di lingkungan lokal, memanfaatkan kinerja perangkat keras secara penuh. Metode multi-tahap secara signifikan meningkatkan efisiensi eksekusi, mendekati level lingkungan asli.
Sebagai contoh model LLaMA, OPML menggunakan metode dua tahap:
Tahap kedua melakukan verifikasi permainan pada grafik komputasi, dapat menggunakan CPU atau GPU multi-thread.
Tahap pertama mengubah perhitungan node tunggal menjadi eksekusi instruksi VM
Implementasi OPML multi-tahap memiliki percepatan α kali dibandingkan dengan tahap tunggal, di mana α adalah rasio percepatan GPU/perhitungan paralel. Selain itu, metode multi-tahap juga secara signifikan mengurangi ukuran pohon Merkle.
Untuk memastikan konsistensi lintas platform, OPML menggunakan algoritma titik tetap dan pustaka floating point perangkat lunak, mengatasi tantangan yang ditimbulkan oleh perbedaan perangkat keras.
Secara keseluruhan, OPML menyediakan solusi yang efisien dan biaya rendah untuk pembelajaran mesin di Blockchain, dengan prospek aplikasi yang luas.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
9 Suka
Hadiah
9
5
Bagikan
Komentar
0/400
TheShibaWhisperer
· 7jam yang lalu
Sekali lagi datang untuk memperdagangkan konsep baru untuk be played for suckers.
Lihat AsliBalas0
MainnetDelayedAgain
· 7jam yang lalu
Menurut database, verifikasi yang dijanjikan oleh tim proyek telah terulang 78 kali.
Lihat AsliBalas0
TestnetFreeloader
· 7jam yang lalu
Pc menjalankan llama? Ini terdengar menarik.
Lihat AsliBalas0
GateUser-c802f0e8
· 7jam yang lalu
Kenapa semua orang membuang apa pun ke on-chain?
Lihat AsliBalas0
LiquidationKing
· 7jam yang lalu
Tidak mampu bermain dengan barang yang begitu canggih
OPML: Solusi pelatihan dan inferensi model AI yang efisien dan biaya rendah di Blockchain
OPML: Solusi Pembelajaran Mesin Blockchain yang Efisien
OPML(Optimistic machine learning) adalah metode inovatif untuk inferensi dan pelatihan model AI blockchain. Dibandingkan dengan ZKML, OPML memiliki keunggulan biaya rendah dan efisiensi tinggi. Bahkan di PC biasa, model bahasa besar seperti 26GB 7B-LLaMA dapat dijalankan.
OPML menggunakan mekanisme permainan verifikasi, mirip dengan sistem Truebit dan Optimistic Rollup, untuk mewujudkan layanan ML yang terdesentralisasi dan dapat diverifikasi. Prosesnya mencakup:
Permainan verifikasi satu tahap OPML menggunakan protokol penentuan lokasi yang tepat, melalui mesin virtual (VM) untuk pelaksanaan off-chain dan arbitrase on-chain. Untuk meningkatkan efisiensi inferensi AI, OPML menggunakan pustaka DNN ringan yang dirancang khusus, dan menyediakan skrip konversi untuk mendukung kerangka kerja ML utama. Citra VM dikelola menggunakan pohon Merkle, hanya mengunggah hash root ke on-chain.
Namun, permainan verifikasi satu tahap terbatas pada eksekusi di dalam VM dan tidak dapat memanfaatkan akselerasi GPU/TPU secara maksimal. Untuk itu, OPML mengusulkan skema permainan verifikasi multi-tahap. Pada tahap non-final, perhitungan dapat dilakukan secara fleksibel di lingkungan lokal, memanfaatkan kinerja perangkat keras secara penuh. Metode multi-tahap secara signifikan meningkatkan efisiensi eksekusi, mendekati level lingkungan asli.
Sebagai contoh model LLaMA, OPML menggunakan metode dua tahap:
Implementasi OPML multi-tahap memiliki percepatan α kali dibandingkan dengan tahap tunggal, di mana α adalah rasio percepatan GPU/perhitungan paralel. Selain itu, metode multi-tahap juga secara signifikan mengurangi ukuran pohon Merkle.
Untuk memastikan konsistensi lintas platform, OPML menggunakan algoritma titik tetap dan pustaka floating point perangkat lunak, mengatasi tantangan yang ditimbulkan oleh perbedaan perangkat keras.
Secara keseluruhan, OPML menyediakan solusi yang efisien dan biaya rendah untuk pembelajaran mesin di Blockchain, dengan prospek aplikasi yang luas.