OPML: 高效的区块链机器学习方案

OPML(Optimistic机器学习)是一种创新的区块链AI模型推理和训练方法。相比ZKML，OPML具有成本低、效率高的优势。即使在普通PC上也能运行大型语言模型,如26GB的7B-LLaMA。

OPML采用验证游戏机制,类似Truebit和Optimistic Rollup系统,实现去中心化和可验证的ML服务。其流程包括:

1. 请求者发起ML任务
2. 服务器执行任务并提交结果上链
3. 验证者检查结果,若有异议则启动验证游戏
4. 在智能合约上进行最终仲裁

OPML的单阶段验证游戏采用精确定位协议,通过虚拟机(VM)实现链下执行和链上仲裁。为提高AI推理效率,OPML使用专门设计的轻量级DNN库,并提供转换脚本支持主流ML框架。VM镜像采用默克尔树管理,只将根哈希上传链上。

然而,单阶段验证游戏局限于VM内执行,无法充分利用GPU/TPU加速。为此,OPML提出了多阶段验证游戏方案。在非最后阶段,计算可在本地环境中灵活执行,充分发挥硬件性能。多阶段方法显著提升了执行效率,接近原生环境水平。

以LLaMA模型为例,OPML采用两阶段方法:

• 第二阶段在计算图上进行验证博弈,可利用多线程CPU或GPU
• 第一阶段将单个节点计算转为VM指令执行

多阶段OPML相比单阶段实现了α倍加速,其中α为GPU/并行计算的加速比。此外,多阶段方法还大幅减小了默克尔树大小。

为确保跨平台一致性,OPML采用定点算法和软件浮点库,克服了硬件差异带来的挑战。

总的来说,OPML为区块链上的机器学习提供了一种高效、低成本的解决方案,具有广阔的应用前景。