OPML:采用乐观方法的机器学习

OPML(乐观机器学习)是一种新型区块链AI技术,它利用乐观方法来进行AI模型的推理和训练。与ZKML相比,OPML具有成本低、效率高的优势。OPML的应用门槛很低,普通PC无需GPU即可运行大型语言模型,如26GB大小的7B-LLaMA模型。

OPML采用验证游戏机制来确保ML服务的去中心化和可验证共识。其工作流程如下:

1. 发起方提出ML服务任务
2. 服务器完成任务并将结果上链
3. 验证者检查结果,如有异议则启动验证游戏
4. 通过智能合约进行单步仲裁

单阶段验证游戏

单阶段验证游戏借鉴了计算委托(RDoC)的原理,假设多方执行相同程序,然后通过精确质疑来定位争议步骤,最后由链上智能合约仲裁。

OPML的单阶段验证游戏包含以下要素:

• 构建链下执行和链上仲裁的虚拟机(VM)
• 实现轻量级DNN库以提高AI推理效率
• 使用交叉编译将AI模型代码编译为VM指令
• 采用默克尔树管理VM镜像,只上传根哈希到链上

在测试中,一个基本的MNIST分类DNN模型在PC上可在2秒内完成推理,整个挑战过程约2分钟。

多阶段验证游戏

单阶段验证游戏的局限在于所有计算必须在VM内执行,无法利用GPU/TPU加速。为此,OPML提出了多阶段协议扩展:

• 仅最后阶段在VM中计算
• 其他阶段可在本地环境执行,利用CPU、GPU等硬件加速
• 通过减少VM依赖,显著提高执行性能

多阶段OPML以LLaMA模型为例,采用两阶段方法:

1. 第二阶段在计算图上进行验证博弈,可利用多线程CPU或GPU
2. 第一阶段将单个节点计算转换为VM指令

当计算图中单节点计算仍复杂时,可引入更多阶段以进一步提高效率。

性能改进

分析表明,两阶段OPML相比单阶段可实现α倍加速,α代表GPU或并行计算的加速比。此外,两阶段OPML的默克尔树大小为O(m+n),远小于单阶段的O(mn)。

一致性与确定性

为确保ML结果一致性,OPML采取两种方法:

1. 使用定点算法(量化技术)减少浮点舍入误差
2. 采用跨平台一致的软件浮点库

这些技术有助于克服浮点变量和平台差异带来的挑战,增强OPML计算的可靠性。

OPML vs ZKML

OPML目前主要聚焦于ML模型推理,但框架也支持训练过程。OPML项目仍在开发中,欢迎感兴趣的人士加入贡献。