OPML: 高效可扩展的去中心化机器学习新技术

robot
摘要生成中

OPML: 可扩展的去中心化机器学习

近期提出的OPML(乐观机器学习)技术为区块链系统提供了一种新型的AI模型推理和训练方法。与ZKML相比,OPML具有低成本、高效率的优势,能够在普通PC上运行大型语言模型,如26GB大小的7B-LLaMA。

OPML:采用Optimistic Rollup系统的机器学习

OPML采用验证游戏机制来保证ML服务的去中心化和可验证性。其工作流程包括:

  1. 请求者发起ML任务
  2. 服务器完成任务并提交结果上链
  3. 验证者检查结果,如有异议则启动验证游戏
  4. 通过二分协议精确定位错误步骤
  5. 最后在智能合约上进行单步仲裁

OPML:采用Optimistic Rollup系统的机器学习

为了提高效率,OPML采用了专门设计的轻量级DNN库和交叉编译技术。虚拟机镜像通过默克尔树管理,只将根哈希上传到链上。

单阶段OPML存在一些局限性,如无法充分利用GPU加速。为解决这一问题,提出了多阶段OPML方案:

  • 仅最后阶段在VM中计算
  • 其他阶段可在本地环境执行,利用硬件加速
  • 通过默克尔树保证阶段间过渡的完整性

OPML:采用Optimistic Rollup系统的机器学习

以LLaMA模型为例,采用两阶段OPML:

  1. 第二阶段在计算图上进行验证博弈
  2. 第一阶段将单节点计算转为VM指令执行

多阶段OPML相比单阶段可实现α倍加速,且默克尔树大小更小。

OPML:采用Optimistic Rollup系统的机器学习

为保证结果一致性,OPML采用定点算法和跨平台浮点库。与ZKML相比,OPML在计算效率、通用性和开发难度等方面都具有优势。

OPML:采用Optimistic Rollup系统的机器学习

OPML技术仍在持续开发中,欢迎有兴趣的开发者参与贡献。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 4
  • 分享
评论
0/400
liquiditea_sippervip
· 08-01 20:07
技术宅救星来了
回复0
FadCatchervip
· 08-01 20:03
小白也能玩AI啦
回复0
GateUser-e51e87c7vip
· 08-01 20:00
降本提效是王道
回复0
熊市理发师vip
· 08-01 19:59
赌狗降智必备...
回复0
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)