OPML(L'apprentissage automatique optimiste) est une méthode innovante d'inférence et d'entraînement de modèles AI sur blockchain. Par rapport à ZKML, OPML présente des avantages en termes de coût et d'efficacité. Même sur un PC ordinaire, il est possible d'exécuter de grands modèles linguistiques, tels que le 7B-LLaMA de 26 Go.
OPML adopte un mécanisme de jeu de vérification, similaire aux systèmes Truebit et Optimistic Rollup, pour réaliser des services ML décentralisés et vérifiables. Son processus comprend :
Le demandeur lance une tâche ML
Le serveur exécute des tâches et soumet les résultats sur la Blockchain
Les validateurs vérifient les résultats, s'il y a des objections, le jeu de validation est lancé.
Effectuer l'arbitrage final sur un contrat intelligent
Le jeu de validation à une étape d'OPML utilise un protocole de localisation précise, permettant l'exécution hors chaîne et l'arbitrage en chaîne via la machine virtuelle (VM). Pour améliorer l'efficacité du raisonnement AI, OPML utilise une bibliothèque DNN légère spécialement conçue et fournit un support de script de conversion pour les frameworks ML principaux. Les images VM sont gérées par un arbre de Merkle, ne téléchargeant que le hachage racine sur la chaîne.
Cependant, le jeu de validation à une seule étape est limité à l'exécution à l'intérieur de la VM et ne peut pas tirer pleinement parti de l'accélération GPU/TPU. Pour cela, OPML a proposé un schéma de jeu de validation à plusieurs étapes. Dans les étapes non finales, les calculs peuvent être exécutés de manière flexible dans un environnement local, exploitant pleinement les performances matérielles. La méthode à plusieurs étapes améliore considérablement l'efficacité d'exécution, se rapprochant du niveau de l'environnement natif.
Prenons le modèle LLaMA comme exemple, OPML adopte une méthode en deux étapes :
La deuxième phase consiste à valider le jeu sur le graphique de calcul, en utilisant un CPU ou un GPU multi-thread.
La première étape consiste à transformer le calcul d'un seul nœud en exécution d'instructions VM
La méthode OPML multi-étape a réalisé une accélération de α fois par rapport à l'implémentation à une seule étape, où α est le facteur d'accélération du calcul GPU/parallèle. De plus, la méthode multi-étape a également considérablement réduit la taille de l'arbre de Merkle.
Pour assurer la cohérence interplateforme, OPML utilise des algorithmes à virgule fixe et des bibliothèques de flottants logiciels, surmontant ainsi les défis posés par les différences matérielles.
Dans l'ensemble, OPML offre une solution efficace et à faible coût pour l'apprentissage automatique sur la Blockchain, avec de vastes perspectives d'application.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
12 J'aime
Récompense
12
5
Partager
Commentaire
0/400
TheShibaWhisperer
· 07-22 12:21
Encore une fois, on vient de faire de nouveaux concepts pour être pris pour des pigeons.
Voir l'originalRépondre0
MainnetDelayedAgain
· 07-22 12:20
Selon la base de données, la vérifiabilité promise par le projet de fête a déjà été itérée 78 fois.
Voir l'originalRépondre0
TestnetFreeloader
· 07-22 12:18
Pc tourne llama? Ça sonne bien.
Voir l'originalRépondre0
GateUser-c802f0e8
· 07-22 12:16
Pourquoi tout est-il mis off-chain ?
Voir l'originalRépondre0
LiquidationKing
· 07-22 12:07
Je ne peux pas me permettre des choses aussi avancées.
OPML : solution d'entraînement et d'inférence de modèle AI efficace et à faible coût sur la Blockchain
OPML: Solution efficace d'apprentissage automatique Blockchain
OPML(L'apprentissage automatique optimiste) est une méthode innovante d'inférence et d'entraînement de modèles AI sur blockchain. Par rapport à ZKML, OPML présente des avantages en termes de coût et d'efficacité. Même sur un PC ordinaire, il est possible d'exécuter de grands modèles linguistiques, tels que le 7B-LLaMA de 26 Go.
OPML adopte un mécanisme de jeu de vérification, similaire aux systèmes Truebit et Optimistic Rollup, pour réaliser des services ML décentralisés et vérifiables. Son processus comprend :
Le jeu de validation à une étape d'OPML utilise un protocole de localisation précise, permettant l'exécution hors chaîne et l'arbitrage en chaîne via la machine virtuelle (VM). Pour améliorer l'efficacité du raisonnement AI, OPML utilise une bibliothèque DNN légère spécialement conçue et fournit un support de script de conversion pour les frameworks ML principaux. Les images VM sont gérées par un arbre de Merkle, ne téléchargeant que le hachage racine sur la chaîne.
Cependant, le jeu de validation à une seule étape est limité à l'exécution à l'intérieur de la VM et ne peut pas tirer pleinement parti de l'accélération GPU/TPU. Pour cela, OPML a proposé un schéma de jeu de validation à plusieurs étapes. Dans les étapes non finales, les calculs peuvent être exécutés de manière flexible dans un environnement local, exploitant pleinement les performances matérielles. La méthode à plusieurs étapes améliore considérablement l'efficacité d'exécution, se rapprochant du niveau de l'environnement natif.
Prenons le modèle LLaMA comme exemple, OPML adopte une méthode en deux étapes :
La méthode OPML multi-étape a réalisé une accélération de α fois par rapport à l'implémentation à une seule étape, où α est le facteur d'accélération du calcul GPU/parallèle. De plus, la méthode multi-étape a également considérablement réduit la taille de l'arbre de Merkle.
Pour assurer la cohérence interplateforme, OPML utilise des algorithmes à virgule fixe et des bibliothèques de flottants logiciels, surmontant ainsi les défis posés par les différences matérielles.
Dans l'ensemble, OPML offre une solution efficace et à faible coût pour l'apprentissage automatique sur la Blockchain, avec de vastes perspectives d'application.