OPML(Optimistik Makine Öğrenimi), yenilikçi bir Blok Zinciri AI model çıkarım ve eğitim yöntemidir. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajına sahiptir. 26GB'lik 7B-LLaMA gibi büyük dil modellerini sıradan PC'lerde bile çalıştırabilir.
OPML, merkeziyetsiz ve doğrulanabilir ML hizmetleri sağlamak için Truebit ve Optimistik Rollup sistemlerine benzer bir doğrulama oyun mekanizması benimsemektedir. Süreci şunları içerir:
Talep eden ML görevini başlatır
Sunucu görevleri yerine getirir ve sonuçları Blok Zinciri'ne gönderir.
Doğrulayıcı sonuçları kontrol eder, eğer itiraz varsa doğrulama oyunu başlatılır.
Akıllı sözleşmeler üzerinde nihai tahkim yapmak
OPML'in tek aşamalı doğrulama oyunu, hassas konumlandırma protokolünü kullanarak sanal makine (VM) ile zincir dışı yürütme ve zincir içi tahkim gerçekleştirmektedir. AI çıkarım verimliliğini artırmak için, OPML özel olarak tasarlanmış hafif DNN kütüphanesini kullanmakta ve ana akım ML çerçevelerini destekleyen dönüşüm betikleri sunmaktadır. VM imajı, yalnızca kök hash'ini zincir üstüne yükleyerek Merkle ağaçları ile yönetilmektedir.
Ancak, tek aşamalı doğrulama oyunu VM içindeki yürütme ile sınırlıdır ve GPU/TPU hızlandırmasından tam olarak yararlanamaz. Bu nedenle, OPML çok aşamalı doğrulama oyunu çözümünü önerdi. Son aşama dışındaki hesaplamalar, yerel ortamda esnek bir şekilde gerçekleştirilebilir ve donanım performansı tam anlamıyla kullanılabilir. Çok aşamalı yöntem, yürütme verimliliğini önemli ölçüde artırarak yerel ortam seviyesine yaklaştırır.
LLaMA modelini örnek alarak, OPML iki aşamalı bir yöntem kullanır:
İkinci aşama, hesaplama grafiği üzerinde doğrulama oyunu yapmak için çoklu iş parçacığı CPU veya GPU kullanılabilir.
İlk aşama, tek bir düğüm hesaplamasını VM talimatı yürütmesine dönüştür
Çok aşamalı OPML, tek aşamalıya göre α kat hızlandırma sağlıyor; burada α, GPU/paralel hesaplamanın hızlandırma oranıdır. Ayrıca, çok aşamalı yöntem Merkle ağacının boyutunu da önemli ölçüde küçültmüştür.
Platformlar arası tutarlılığı sağlamak için OPML sabit nokta algoritması ve yazılım kayan nokta kütüphanesi kullanarak donanım farklılıklarının getirdiği zorlukların üstesinden gelmiştir.
Genel olarak, OPML, blok zincirindeki makine öğrenimi için verimli ve düşük maliyetli bir çözüm sunmaktadır ve geniş bir uygulama potansiyeline sahiptir.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
12 Likes
Reward
12
5
Share
Comment
0/400
TheShibaWhisperer
· 17h ago
Yine yeni bir kavramla enayileri kandırmaya geldiler.
View OriginalReply0
MainnetDelayedAgain
· 17h ago
Veritabanına göre, Proje Ekibi tarafından taahhüt edilen doğrulanabilirlik 78 kez güncellenmiştir.
OPML: Blok Zinciri üzerinde verimli ve düşük maliyetli AI model eğitimi ve çıkarım çözümü
OPML: Verimli Blok Zinciri Makine Öğrenimi Çözümü
OPML(Optimistik Makine Öğrenimi), yenilikçi bir Blok Zinciri AI model çıkarım ve eğitim yöntemidir. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajına sahiptir. 26GB'lik 7B-LLaMA gibi büyük dil modellerini sıradan PC'lerde bile çalıştırabilir.
OPML, merkeziyetsiz ve doğrulanabilir ML hizmetleri sağlamak için Truebit ve Optimistik Rollup sistemlerine benzer bir doğrulama oyun mekanizması benimsemektedir. Süreci şunları içerir:
OPML'in tek aşamalı doğrulama oyunu, hassas konumlandırma protokolünü kullanarak sanal makine (VM) ile zincir dışı yürütme ve zincir içi tahkim gerçekleştirmektedir. AI çıkarım verimliliğini artırmak için, OPML özel olarak tasarlanmış hafif DNN kütüphanesini kullanmakta ve ana akım ML çerçevelerini destekleyen dönüşüm betikleri sunmaktadır. VM imajı, yalnızca kök hash'ini zincir üstüne yükleyerek Merkle ağaçları ile yönetilmektedir.
Ancak, tek aşamalı doğrulama oyunu VM içindeki yürütme ile sınırlıdır ve GPU/TPU hızlandırmasından tam olarak yararlanamaz. Bu nedenle, OPML çok aşamalı doğrulama oyunu çözümünü önerdi. Son aşama dışındaki hesaplamalar, yerel ortamda esnek bir şekilde gerçekleştirilebilir ve donanım performansı tam anlamıyla kullanılabilir. Çok aşamalı yöntem, yürütme verimliliğini önemli ölçüde artırarak yerel ortam seviyesine yaklaştırır.
LLaMA modelini örnek alarak, OPML iki aşamalı bir yöntem kullanır:
Çok aşamalı OPML, tek aşamalıya göre α kat hızlandırma sağlıyor; burada α, GPU/paralel hesaplamanın hızlandırma oranıdır. Ayrıca, çok aşamalı yöntem Merkle ağacının boyutunu da önemli ölçüde küçültmüştür.
Platformlar arası tutarlılığı sağlamak için OPML sabit nokta algoritması ve yazılım kayan nokta kütüphanesi kullanarak donanım farklılıklarının getirdiği zorlukların üstesinden gelmiştir.
Genel olarak, OPML, blok zincirindeki makine öğrenimi için verimli ve düşük maliyetli bir çözüm sunmaktadır ve geniş bir uygulama potansiyeline sahiptir.