OPML( optimist makine öğrenimi ), AI modellerinin çıkarım ve eğitimi için optimist yöntemler kullanan yeni nesil blockchain AI teknolojisidir. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajına sahiptir. OPML'nin uygulama eşiği oldukça düşüktür, sıradan bir PC, 26GB boyutundaki 7B-LLaMA modeli gibi büyük dil modellerini GPU olmadan çalıştırabilir.
OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilir konsensüsü sağlamak için doğrulama oyun mekaniği kullanır. Çalışma akışı şu şekildedir:
Başlatıcı ML hizmet görevini önerir
Sunucu görevi tamamladı ve sonucu blockchain'e ekledi.
Doğrulayıcı sonuçları kontrol eder, itiraz varsa doğrulama oyunu başlatılır.
Akıllı sözleşme aracılığıyla tek adımlı tahkim
Tek Aşamalı Doğrulama Oyunu
Tek aşamalı doğrulama oyunu, çok tarafın aynı programı yürüttüğünü varsayarak, tartışmalı adımları belirlemek için kesin sorgulamalar yoluyla hesaplama yetkilendirmesi (RDoC) ilkesini örnek alır ve nihayetinde zincir üzerindeki akıllı sözleşmeler aracılığıyla tahkim edilir.
OPML'nin tek aşamalı doğrulama oyunu aşağıdaki unsurları içerir:
Off-chain yürütme ve on-chain tahkim için sanal makine (VM)
AI çıkarım verimliliğini artırmak için hafif DNN kütüphanesi gerçekleştirin
AI model kodunu VM talimatlarına çapraz derleme ile derleyin
Merkle ağacını kullanarak VM görüntülerini yönetir, yalnızca kök hash'ini zincire yükler.
Test sırasında, temel bir MNIST sınıflandırma DNN modeli PC'de 2 saniye içinde çıkarım yapabiliyor, tüm zorluk süreci yaklaşık 2 dakika sürüyor.
Çok Aşamalı Doğrulama Oyunu
Tek aşamalı doğrulama oyunlarının sınırlılığı, tüm hesaplamaların VM içinde yapılması gerektiğidir ve GPU/TPU hızlandırmasından yararlanılamaz. Bu nedenle, OPML çok aşamalı protokol genişlemesini önerdi:
Sadece son aşama VM'de hesaplanır.
Diğer aşamalar yerel ortamda, CPU, GPU gibi donanım hızlandırmalarını kullanarak gerçekleştirilebilir.
VM bağımlılığını azaltarak, yürütme performansını önemli ölçüde artırma
Çok aşamalı OPML, LLaMA modelini örnek alarak, iki aşamalı bir yöntem kullanır:
İkinci aşamada hesaplama grafiği üzerinde doğrulama oyunu yapılır, çoklu iş parçacığı CPU veya GPU kullanılabilir.
Birinci aşama, tek bir düğüm hesaplamasını VM talimatına dönüştürür.
Bir hesaplama grafi içindeki tek düğüm hesaplaması hala karmaşık olduğunda, verimliliği daha da artırmak için daha fazla aşama eklenebilir.
Performans İyileştirmesi
Analizler, iki aşamalı OPML'in tek aşamalıya göre α kat hızlanma sağlayabileceğini göstermektedir; α, GPU veya paralel hesaplamanın hızlanma oranını temsil eder. Ayrıca, iki aşamalı OPML'in Merkel ağacı boyutu O(m+n) olup, bu boyut tek aşamalının O(mn)'inden çok daha küçüktür.
Tutarlılık ve Belirlenebilirlik
ML sonuç tutarlılığını sağlamak için, OPML iki yöntem kullanır:
Sabit nokta algoritması ( kuantizasyon teknolojisi ) kayan nokta yuvarlama hatalarını azaltır
Çoklu platformlarda tutarlı bir yazılım kayan nokta kütüphanesi kullanın.
Bu teknolojiler, kayan nokta değişkenleri ve platform farklılıklarının getirdiği zorlukların üstesinden gelmeye yardımcı olur ve OPML hesaplamalarının güvenilirliğini artırır.
OPML ile ZKML
OPML şu anda esas olarak ML model çıkarımına odaklanıyor, ancak çerçeve eğitim sürecini de destekliyor. OPML projesi hâlâ geliştirilmekte, ilgilenen kişileri katkıda bulunmaya davet ediyoruz.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
OPML: İyimser Makine Öğrenimi, Blok Zinciri AI Gelişimini Destekliyor, Düşük Maliyet, Yüksek Verimlilik
OPML: İyimser Yöntemle Makine Öğrenimi
OPML( optimist makine öğrenimi ), AI modellerinin çıkarım ve eğitimi için optimist yöntemler kullanan yeni nesil blockchain AI teknolojisidir. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajına sahiptir. OPML'nin uygulama eşiği oldukça düşüktür, sıradan bir PC, 26GB boyutundaki 7B-LLaMA modeli gibi büyük dil modellerini GPU olmadan çalıştırabilir.
OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilir konsensüsü sağlamak için doğrulama oyun mekaniği kullanır. Çalışma akışı şu şekildedir:
Tek Aşamalı Doğrulama Oyunu
Tek aşamalı doğrulama oyunu, çok tarafın aynı programı yürüttüğünü varsayarak, tartışmalı adımları belirlemek için kesin sorgulamalar yoluyla hesaplama yetkilendirmesi (RDoC) ilkesini örnek alır ve nihayetinde zincir üzerindeki akıllı sözleşmeler aracılığıyla tahkim edilir.
OPML'nin tek aşamalı doğrulama oyunu aşağıdaki unsurları içerir:
Test sırasında, temel bir MNIST sınıflandırma DNN modeli PC'de 2 saniye içinde çıkarım yapabiliyor, tüm zorluk süreci yaklaşık 2 dakika sürüyor.
Çok Aşamalı Doğrulama Oyunu
Tek aşamalı doğrulama oyunlarının sınırlılığı, tüm hesaplamaların VM içinde yapılması gerektiğidir ve GPU/TPU hızlandırmasından yararlanılamaz. Bu nedenle, OPML çok aşamalı protokol genişlemesini önerdi:
Çok aşamalı OPML, LLaMA modelini örnek alarak, iki aşamalı bir yöntem kullanır:
Bir hesaplama grafi içindeki tek düğüm hesaplaması hala karmaşık olduğunda, verimliliği daha da artırmak için daha fazla aşama eklenebilir.
Performans İyileştirmesi
Analizler, iki aşamalı OPML'in tek aşamalıya göre α kat hızlanma sağlayabileceğini göstermektedir; α, GPU veya paralel hesaplamanın hızlanma oranını temsil eder. Ayrıca, iki aşamalı OPML'in Merkel ağacı boyutu O(m+n) olup, bu boyut tek aşamalının O(mn)'inden çok daha küçüktür.
Tutarlılık ve Belirlenebilirlik
ML sonuç tutarlılığını sağlamak için, OPML iki yöntem kullanır:
Bu teknolojiler, kayan nokta değişkenleri ve platform farklılıklarının getirdiği zorlukların üstesinden gelmeye yardımcı olur ve OPML hesaplamalarının güvenilirliğini artırır.
OPML ile ZKML
OPML şu anda esas olarak ML model çıkarımına odaklanıyor, ancak çerçeve eğitim sürecini de destekliyor. OPML projesi hâlâ geliştirilmekte, ilgilenen kişileri katkıda bulunmaya davet ediyoruz.