OPML:ブロックチェーン上高効率低コストのAIモデル訓練と推論ソリューション

OPML: 効率的なブロックチェーン機械学習ソリューション

OPML(楽観的機械学習)は、革新的なブロックチェーンAIモデルの推論とトレーニング方法です。ZKMLと比較して、OPMLはコストが低く、効率が高いという利点があります。通常のPCでも、26GBの7B-LLaMAなどの大規模言語モデルを実行できます。

OPMLは、TruebitやOptimistic Rollupシステムに似た検証ゲームメカニズムを採用し、分散型で検証可能なMLサービスを実現します。そのプロセスには以下が含まれます:

  1. リクエスターがMLタスクを開始します
  2. サーバーがタスクを実行し、結果をブロックチェーンに提出する
  3. バリデーターは結果を確認し、異議がある場合は検証ゲームを開始します。
  4. スマートコントラクト上で最終仲裁を行う

! OPML:楽観的ロールアップによる機械学習

OPMLの単段階検証ゲームは、正確な位置決めプロトコルを採用し、仮想マシン(VM)を通じてオフチェーン実行とオンチェーン仲裁を実現します。AI推論効率を向上させるために、OPMLは特別に設計された軽量DNNライブラリを使用し、主流のMLフレームワークをサポートする変換スクリプトを提供しています。VMイメージはメルクルツリーによって管理され、ルートハッシュのみをオンチェーンにアップロードします。

! OPML:楽観的ロールアップシステムによる機械学習

しかし、単段階検証ゲームはVM内での実行に制限されており、GPU/TPUの加速を十分に活用できません。これを受けて、OPMLは多段階検証ゲームの提案を行いました。最終段階ではない場合、計算はローカル環境で柔軟に実行でき、ハードウェアの性能を最大限に発揮します。多段階アプローチは実行効率を大幅に向上させ、ネイティブ環境レベルに近づきます。

! OPML:楽観的ロールアップによる機械学習

LLaMAモデルを例にとると、OPMLは二段階の方法を採用しています。

  • 第二段階で計算グラフ上において検証ゲームを行い、マルチスレッドCPUまたはGPUを利用することができます。
  • 第一段階では、単一ノードの計算をVM命令の実行に変換します。

! OPML:楽観的ロールアップによる機械学習

多段階OPMLは単段階に比べてα倍の加速を実現しており、ここでαはGPU/並列計算の加速比を示します。また、多段階手法はメルクルツリーのサイズも大幅に削減しました。

クロスプラットフォームの一貫性を確保するために、OPMLは固定小数点アルゴリズムとソフトウェア浮動小数点ライブラリを採用し、ハードウェアの差異による課題を克服しました。

! OPML:楽観的ロールアップシステムによる機械学習

総じて、OPMLはブロックチェーン上の機械学習に対して効率的で低コストなソリューションを提供し、広範な応用の可能性を持っています。

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • 5
  • 共有
コメント
0/400
TheShibaWhisperervip
· 23時間前
また新しい概念を炒めて初心者を騙すのか
原文表示返信0
MainnetDelayedAgainvip
· 23時間前
データベースによると、プロジェクトが約束した検証可能性は78回も繰り返されていますね
原文表示返信0
TestnetFreeloadervip
· 23時間前
Pcがllamaを走らせる?これは素晴らしい響きだ。
原文表示返信0
GateUser-c802f0e8vip
· 23時間前
どうして何でもオンチェーンに投げ込むの?
原文表示返信0
LiquidationKingvip
· 07-22 12:07
こんな高級なものは遊べない
原文表示返信0
いつでもどこでも暗号資産取引
qrCode
スキャンしてGateアプリをダウンロード
コミュニティ
日本語
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)