OPML: Menggunakan pendekatan optimis dalam pembelajaran mesin
OPML( Pembelajaran Mesin Optimis) adalah teknologi AI blockchain baru yang menggunakan pendekatan optimis untuk inferensi dan pelatihan model AI. Dibandingkan dengan ZKML, OPML memiliki keuntungan biaya rendah dan efisiensi tinggi. Ambang batas aplikasi OPML sangat rendah, PC biasa dapat menjalankan model bahasa besar tanpa GPU, seperti model 7B-LLaMA yang berukuran 26GB.
OPML menggunakan mekanisme permainan verifikasi untuk memastikan desentralisasi layanan ML dan konsensus yang dapat diverifikasi. Alur kerjanya adalah sebagai berikut:
Pihak yang memulai mengajukan tugas layanan ML
Server menyelesaikan tugas dan mengunggah hasil ke blockchain
Validator memeriksa hasil, jika ada keberatan maka mulai permainan verifikasi
Melakukan arbitrase satu langkah melalui kontrak pintar
Permainan Verifikasi Satu Tahap
Verifikasi game satu tahap mengambil prinsip dari delegasi komputasi (RDoC), mengasumsikan bahwa beberapa pihak menjalankan program yang sama, kemudian mengidentifikasi langkah-langkah yang diperdebatkan melalui pertanyaan yang tepat, dan akhirnya diadili oleh kontrak pintar di blockchain.
Permainan verifikasi satu tahap OPML terdiri dari elemen berikut:
Membangun mesin virtual eksekusi off-chain dan arbitrase on-chain (VM)
Mengimplementasikan pustaka DNN ringan untuk meningkatkan efisiensi inferensi AI
Menggunakan cross-compilation untuk mengkompilasi kode model AI menjadi instruksi VM
Menggunakan pohon Merkle untuk mengelola citra VM, hanya mengunggah hash akar ke rantai
Dalam pengujian, model DNN klasifikasi MNIST dasar dapat menyelesaikan inferensi di PC dalam waktu kurang dari 2 detik, dan seluruh proses tantangan memakan waktu sekitar 2 menit.
Permainan Verifikasi Multi-Tahap
Keterbatasan permainan verifikasi satu tahap terletak pada semua perhitungan yang harus dilakukan di dalam VM, tanpa dapat memanfaatkan akselerasi GPU/TPU. Untuk itu, OPML mengusulkan perluasan protokol multi-tahap:
Hanya tahap terakhir yang dihitung di VM
Tahap lainnya dapat dijalankan di lingkungan lokal, memanfaatkan akselerasi perangkat keras seperti CPU, GPU, dll.
Meningkatkan kinerja eksekusi secara signifikan dengan mengurangi ketergantungan VM
Contoh OPML multi-tahap dengan model LLaMA, menggunakan metode dua tahap:
Tahap kedua melakukan verifikasi permainan di atas grafik komputasi, dapat menggunakan CPU atau GPU multi-thread.
Tahap pertama akan mengubah perhitungan node tunggal menjadi instruksi VM
Ketika perhitungan pada satu node dalam grafik perhitungan masih kompleks, lebih banyak tahap dapat diperkenalkan untuk meningkatkan efisiensi lebih lanjut.
Peningkatan Kinerja
Analisis menunjukkan bahwa OPML dua tahap dapat mencapai percepatan α kali dibandingkan dengan tahap tunggal, di mana α mewakili rasio percepatan GPU atau komputasi paralel. Selain itu, ukuran pohon Merkle dari OPML dua tahap adalah O(m+n), jauh lebih kecil daripada tahap tunggal O(mn).
Konsistensi dan Kepastian
Untuk memastikan konsistensi hasil ML, OPML mengambil dua metode:
Menggunakan algoritma fixed-point ( teknologi kuantisasi ) untuk mengurangi kesalahan pembulatan floating point.
Menggunakan pustaka floating-point perangkat lunak yang konsisten lintas platform
Teknologi ini membantu mengatasi tantangan yang ditimbulkan oleh variabel floating point dan perbedaan platform, meningkatkan keandalan perhitungan OPML.
OPML vs ZKML
OPML saat ini terutama berfokus pada inferensi model ML, tetapi kerangka kerja ini juga mendukung proses pelatihan. Proyek OPML masih dalam pengembangan, dan kami mengundang orang-orang yang berminat untuk bergabung dalam kontribusi.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
OPML: Pembelajaran mesin optimis mendukung pengembangan AI Blockchain dengan biaya rendah dan efisiensi tinggi
OPML: Menggunakan pendekatan optimis dalam pembelajaran mesin
OPML( Pembelajaran Mesin Optimis) adalah teknologi AI blockchain baru yang menggunakan pendekatan optimis untuk inferensi dan pelatihan model AI. Dibandingkan dengan ZKML, OPML memiliki keuntungan biaya rendah dan efisiensi tinggi. Ambang batas aplikasi OPML sangat rendah, PC biasa dapat menjalankan model bahasa besar tanpa GPU, seperti model 7B-LLaMA yang berukuran 26GB.
OPML menggunakan mekanisme permainan verifikasi untuk memastikan desentralisasi layanan ML dan konsensus yang dapat diverifikasi. Alur kerjanya adalah sebagai berikut:
Permainan Verifikasi Satu Tahap
Verifikasi game satu tahap mengambil prinsip dari delegasi komputasi (RDoC), mengasumsikan bahwa beberapa pihak menjalankan program yang sama, kemudian mengidentifikasi langkah-langkah yang diperdebatkan melalui pertanyaan yang tepat, dan akhirnya diadili oleh kontrak pintar di blockchain.
Permainan verifikasi satu tahap OPML terdiri dari elemen berikut:
Dalam pengujian, model DNN klasifikasi MNIST dasar dapat menyelesaikan inferensi di PC dalam waktu kurang dari 2 detik, dan seluruh proses tantangan memakan waktu sekitar 2 menit.
Permainan Verifikasi Multi-Tahap
Keterbatasan permainan verifikasi satu tahap terletak pada semua perhitungan yang harus dilakukan di dalam VM, tanpa dapat memanfaatkan akselerasi GPU/TPU. Untuk itu, OPML mengusulkan perluasan protokol multi-tahap:
Contoh OPML multi-tahap dengan model LLaMA, menggunakan metode dua tahap:
Ketika perhitungan pada satu node dalam grafik perhitungan masih kompleks, lebih banyak tahap dapat diperkenalkan untuk meningkatkan efisiensi lebih lanjut.
Peningkatan Kinerja
Analisis menunjukkan bahwa OPML dua tahap dapat mencapai percepatan α kali dibandingkan dengan tahap tunggal, di mana α mewakili rasio percepatan GPU atau komputasi paralel. Selain itu, ukuran pohon Merkle dari OPML dua tahap adalah O(m+n), jauh lebih kecil daripada tahap tunggal O(mn).
Konsistensi dan Kepastian
Untuk memastikan konsistensi hasil ML, OPML mengambil dua metode:
Teknologi ini membantu mengatasi tantangan yang ditimbulkan oleh variabel floating point dan perbedaan platform, meningkatkan keandalan perhitungan OPML.
OPML vs ZKML
OPML saat ini terutama berfokus pada inferensi model ML, tetapi kerangka kerja ini juga mendukung proses pelatihan. Proyek OPML masih dalam pengembangan, dan kami mengundang orang-orang yang berminat untuk bergabung dalam kontribusi.