OPML: 高效可擴展的去中心化機器學習新技術

robot
摘要生成中

OPML: 可擴展的去中心化機器學習

近期提出的OPML(樂觀機器學習)技術爲區塊鏈系統提供了一種新型的AI模型推理和訓練方法。與ZKML相比,OPML具有低成本、高效率的優勢,能夠在普通PC上運行大型語言模型,如26GB大小的7B-LLaMA。

OPML:採用Optimistic Rollup系統的機器學習

OPML採用驗證遊戲機制來保證ML服務的去中心化和可驗證性。其工作流程包括:

  1. 請求者發起ML任務
  2. 服務器完成任務並提交結果上鏈
  3. 驗證者檢查結果,如有異議則啓動驗證遊戲
  4. 通過二分協議精確定位錯誤步驟
  5. 最後在智能合約上進行單步仲裁

OPML:採用Optimistic Rollup系統的機器學習

爲了提高效率,OPML採用了專門設計的輕量級DNN庫和交叉編譯技術。虛擬機鏡像通過默克爾樹管理,只將根哈希上傳到鏈上。

單階段OPML存在一些局限性,如無法充分利用GPU加速。爲解決這一問題,提出了多階段OPML方案:

  • 僅最後階段在VM中計算
  • 其他階段可在本地環境執行,利用硬件加速
  • 通過默克爾樹保證階段間過渡的完整性

OPML:採用Optimistic Rollup系統的機器學習

以LLaMA模型爲例,採用兩階段OPML:

  1. 第二階段在計算圖上進行驗證博弈
  2. 第一階段將單節點計算轉爲VM指令執行

多階段OPML相比單階段可實現α倍加速,且默克爾樹大小更小。

OPML:採用Optimistic Rollup系統的機器學習

爲保證結果一致性,OPML採用定點算法和跨平台浮點庫。與ZKML相比,OPML在計算效率、通用性和開發難度等方面都具有優勢。

OPML:採用Optimistic Rollup系統的機器學習

OPML技術仍在持續開發中,歡迎有興趣的開發者參與貢獻。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 4
  • 分享
留言
0/400
liquiditea_sippervip
· 08-01 20:07
技术宅救星来了
回復0
FadCatchervip
· 08-01 20:03
小白也能玩AI啦
回復0
GateUser-e51e87c7vip
· 08-01 20:00
降本提效是王道
回復0
熊市理发师vip
· 08-01 19:59
赌狗降智必备...
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)