OPML:區塊鏈上高效低成本的AI模型訓練與推理方案

OPML: 高效的區塊鏈機器學習方案

OPML(Optimistic機器學習)是一種創新的區塊鏈AI模型推理和訓練方法。相比ZKML,OPML具有成本低、效率高的優勢。即使在普通PC上也能運行大型語言模型,如26GB的7B-LLaMA。

OPML採用驗證遊戲機制,類似Truebit和Optimistic Rollup系統,實現去中心化和可驗證的ML服務。其流程包括:

  1. 請求者發起ML任務
  2. 服務器執行任務並提交結果上鏈
  3. 驗證者檢查結果,若有異議則啓動驗證遊戲
  4. 在智能合約上進行最終仲裁

OPML:採用Optimistic Rollup系統的機器學習

OPML的單階段驗證遊戲採用精確定位協議,通過虛擬機(VM)實現鏈下執行和鏈上仲裁。爲提高AI推理效率,OPML使用專門設計的輕量級DNN庫,並提供轉換腳本支持主流ML框架。VM鏡像採用默克爾樹管理,只將根哈希上傳鏈上。

OPML:採用Optimistic Rollup系統的機器學習

然而,單階段驗證遊戲局限於VM內執行,無法充分利用GPU/TPU加速。爲此,OPML提出了多階段驗證遊戲方案。在非最後階段,計算可在本地環境中靈活執行,充分發揮硬件性能。多階段方法顯著提升了執行效率,接近原生環境水平。

OPML:採用Optimistic Rollup系統的機器學習

以LLaMA模型爲例,OPML採用兩階段方法:

  • 第二階段在計算圖上進行驗證博弈,可利用多線程CPU或GPU
  • 第一階段將單個節點計算轉爲VM指令執行

OPML:採用Optimistic Rollup系統的機器學習

多階段OPML相比單階段實現了α倍加速,其中α爲GPU/並行計算的加速比。此外,多階段方法還大幅減小了默克爾樹大小。

爲確保跨平台一致性,OPML採用定點算法和軟件浮點庫,克服了硬件差異帶來的挑戰。

OPML:採用Optimistic Rollup系統的機器學習

總的來說,OPML爲區塊鏈上的機器學習提供了一種高效、低成本的解決方案,具有廣闊的應用前景。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 5
  • 分享
留言
0/400
TheShibaWhisperervip
· 07-22 12:21
又来炒新概念骗韭菜了
回復0
主网延期通知书vip
· 07-22 12:20
据数据库显示,项目方承诺的可验证性已迭代78次了呢
回復0
测试网薅毛狂人vip
· 07-22 12:18
Pc跑llama?这听着就香了
回復0
GateUser-c802f0e8vip
· 07-22 12:16
怎么什么都往链上丢啊
回復0
LiquidationKingvip
· 07-22 12:07
玩不起这么高级的东西
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)