OPML : solution d'entraînement et d'inférence de modèle AI efficace et à faible coût sur la Blockchain

OPML: Solution efficace d'apprentissage automatique Blockchain

OPML(L'apprentissage automatique optimiste) est une méthode innovante d'inférence et d'entraînement de modèles AI sur blockchain. Par rapport à ZKML, OPML présente des avantages en termes de coût et d'efficacité. Même sur un PC ordinaire, il est possible d'exécuter de grands modèles linguistiques, tels que le 7B-LLaMA de 26 Go.

OPML adopte un mécanisme de jeu de vérification, similaire aux systèmes Truebit et Optimistic Rollup, pour réaliser des services ML décentralisés et vérifiables. Son processus comprend :

  1. Le demandeur lance une tâche ML
  2. Le serveur exécute des tâches et soumet les résultats sur la Blockchain
  3. Les validateurs vérifient les résultats, s'il y a des objections, le jeu de validation est lancé.
  4. Effectuer l'arbitrage final sur un contrat intelligent

OPML : Utilisation d'un système de machine learning basé sur Optimistic Rollup

Le jeu de validation à une étape d'OPML utilise un protocole de localisation précise, permettant l'exécution hors chaîne et l'arbitrage en chaîne via la machine virtuelle (VM). Pour améliorer l'efficacité du raisonnement AI, OPML utilise une bibliothèque DNN légère spécialement conçue et fournit un support de script de conversion pour les frameworks ML principaux. Les images VM sont gérées par un arbre de Merkle, ne téléchargeant que le hachage racine sur la chaîne.

OPML : Système de Machine Learning utilisant Optimistic Rollup

Cependant, le jeu de validation à une seule étape est limité à l'exécution à l'intérieur de la VM et ne peut pas tirer pleinement parti de l'accélération GPU/TPU. Pour cela, OPML a proposé un schéma de jeu de validation à plusieurs étapes. Dans les étapes non finales, les calculs peuvent être exécutés de manière flexible dans un environnement local, exploitant pleinement les performances matérielles. La méthode à plusieurs étapes améliore considérablement l'efficacité d'exécution, se rapprochant du niveau de l'environnement natif.

OPML : Système de machine learning utilisant Optimistic Rollup

Prenons le modèle LLaMA comme exemple, OPML adopte une méthode en deux étapes :

  • La deuxième phase consiste à valider le jeu sur le graphique de calcul, en utilisant un CPU ou un GPU multi-thread.
  • La première étape consiste à transformer le calcul d'un seul nœud en exécution d'instructions VM

OPML : Système de machine learning utilisant Optimistic Rollup

La méthode OPML multi-étape a réalisé une accélération de α fois par rapport à l'implémentation à une seule étape, où α est le facteur d'accélération du calcul GPU/parallèle. De plus, la méthode multi-étape a également considérablement réduit la taille de l'arbre de Merkle.

Pour assurer la cohérence interplateforme, OPML utilise des algorithmes à virgule fixe et des bibliothèques de flottants logiciels, surmontant ainsi les défis posés par les différences matérielles.

OPML : Système de machine learning utilisant Optimistic Rollup

Dans l'ensemble, OPML offre une solution efficace et à faible coût pour l'apprentissage automatique sur la Blockchain, avec de vastes perspectives d'application.

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • 5
  • Partager
Commentaire
0/400
TheShibaWhisperervip
· 07-22 12:21
Encore une fois, on vient de faire de nouveaux concepts pour être pris pour des pigeons.
Voir l'originalRépondre0
MainnetDelayedAgainvip
· 07-22 12:20
Selon la base de données, la vérifiabilité promise par le projet de fête a déjà été itérée 78 fois.
Voir l'originalRépondre0
TestnetFreeloadervip
· 07-22 12:18
Pc tourne llama? Ça sonne bien.
Voir l'originalRépondre0
GateUser-c802f0e8vip
· 07-22 12:16
Pourquoi tout est-il mis off-chain ?
Voir l'originalRépondre0
LiquidationKingvip
· 07-22 12:07
Je ne peux pas me permettre des choses aussi avancées.
Voir l'originalRépondre0
Trader les cryptos partout et à tout moment
qrCode
Scan pour télécharger Gate app
Communauté
Français (Afrique)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)