Son zamanlarda önerilen OPML( optimist makine öğrenimi) teknolojisi, blok zinciri sistemlerine yeni bir AI modeli çıkarım ve eğitim yöntemi sunmaktadır. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajına sahiptir ve sıradan bir PC'de 26GB büyüklüğündeki 7B-LLaMA gibi büyük dil modellerini çalıştırabilir.
OPML, ML hizmetlerinin Merkeziyetsizlik ve doğrulanabilirliğini sağlamak için doğrulama oyun mekanizmasını kullanmaktadır. İş akışı şunları içerir:
Talep eden ML görevini başlatır
Sunucu görevi tamamlar ve sonucu zincir üzerinde gönderir
Doğrulayıcı sonuçları kontrol eder, eğer itiraz varsa doğrulama oyunu başlatılır.
Hata adımlarını tam olarak belirlemek için ikili protokol kullanın
Son olarak akıllı sözleşme üzerinde adım adım tahkim yapın
Verimliliği artırmak için, OPML özel olarak tasarlanmış hafif DNN kütüphanesi ve çapraz derleme teknolojisi kullanmaktadır. Sanal makine imajları, yalnızca kök hash'in zincire yüklendiği Merkle ağaçlarıyla yönetilmektedir.
Tek aşamalı OPML'nin bazı sınırlamaları vardır, örneğin GPU hızlandırmasını tam olarak kullanamamaktadır. Bu sorunu çözmek için çok aşamalı OPML çözümü önerilmiştir:
Sadece son aşamada VM'de hesaplama
Diğer aşamalar yerel ortamda çalıştırılabilir, donanım hızlandırmasını kullanarak
Aşama geçişlerinin bütünlüğünü sağlamak için Merkle ağacı kullanılır.
LLaMA modelini örnek alarak, iki aşamalı OPML kullanımı:
İkinci aşama, hesaplama grafiği üzerinde doğrulama oyunu gerçekleştirir.
İlk aşamada tek düğüm hesaplama VM talimatı yürütmesine dönüştürülecek
Çok aşamalı OPML, tek aşamalıya kıyasla α kat hızlanma sağlayabilir ve Merkle ağacının boyutu daha küçüktür.
Sonuç tutarlılığını sağlamak için OPML, sabit nokta algoritması ve çapraz platform kayan nokta kütüphanesi kullanır. ZKML ile karşılaştırıldığında, OPML hesaplama verimliliği, çok yönlülük ve geliştirme zorluğu gibi alanlarda avantajlara sahiptir.
OPML teknolojisi hala geliştirilmekte, ilgi duyan geliştiricileri katkıda bulunmaya davet ediyoruz.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
9 Likes
Reward
9
4
Share
Comment
0/400
liquiditea_sipper
· 08-01 20:07
Teknik geekin kurtarıcısı geldi
View OriginalReply0
FadCatcher
· 08-01 20:03
Acemi de AI oynayabilir.
View OriginalReply0
GateUser-e51e87c7
· 08-01 20:00
Maliyetleri düşürmek ve verimliliği artırmak en önemli yoldur.
OPML: Verimli ve ölçeklenebilir merkeziyetsiz makine öğrenimi yeni teknolojisi
OPML: Genişletilebilir Merkeziyetsiz Makine Öğrenimi
Son zamanlarda önerilen OPML( optimist makine öğrenimi) teknolojisi, blok zinciri sistemlerine yeni bir AI modeli çıkarım ve eğitim yöntemi sunmaktadır. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajına sahiptir ve sıradan bir PC'de 26GB büyüklüğündeki 7B-LLaMA gibi büyük dil modellerini çalıştırabilir.
OPML, ML hizmetlerinin Merkeziyetsizlik ve doğrulanabilirliğini sağlamak için doğrulama oyun mekanizmasını kullanmaktadır. İş akışı şunları içerir:
Verimliliği artırmak için, OPML özel olarak tasarlanmış hafif DNN kütüphanesi ve çapraz derleme teknolojisi kullanmaktadır. Sanal makine imajları, yalnızca kök hash'in zincire yüklendiği Merkle ağaçlarıyla yönetilmektedir.
Tek aşamalı OPML'nin bazı sınırlamaları vardır, örneğin GPU hızlandırmasını tam olarak kullanamamaktadır. Bu sorunu çözmek için çok aşamalı OPML çözümü önerilmiştir:
LLaMA modelini örnek alarak, iki aşamalı OPML kullanımı:
Çok aşamalı OPML, tek aşamalıya kıyasla α kat hızlanma sağlayabilir ve Merkle ağacının boyutu daha küçüktür.
Sonuç tutarlılığını sağlamak için OPML, sabit nokta algoritması ve çapraz platform kayan nokta kütüphanesi kullanır. ZKML ile karşılaştırıldığında, OPML hesaplama verimliliği, çok yönlülük ve geliştirme zorluğu gibi alanlarda avantajlara sahiptir.
OPML teknolojisi hala geliştirilmekte, ilgi duyan geliştiricileri katkıda bulunmaya davet ediyoruz.