OPML: Расширяемое Децентрализованное Машинное Обучение

Недавно предложенная технология OPML( оптимистичного машинного обучения ) предоставляет новую модель вывода и обучения ИИ для систем блокчейн. В отличие от ZKML, OPML обладает преимуществами низкой стоимости и высокой эффективности, позволяя запускать крупные языковые модели, такие как 26 ГБ 7B-LLaMA, на обычном ПК.

! OPML: Машинное обучение с оптимистичным свертыванием

OPML использует механизм верификационных игр для обеспечения децентрализации и проверяемости услуг ML. Его рабочий процесс включает:

1. Запросчик инициирует ML задачу
2. Сервер завершает задачу и отправляет результат в блокчейн
3. Проверка результатов валидатором, в случае разногласий запускается игра верификации.
4. Точное определение ошибок с помощью двоичного протокола
5. В конце провести пошаговый арбитраж по смарт-контракту

! OPML: Машинное обучение с оптимистичной системой свертывания

Чтобы повысить эффективность, OPML использует специально разработанную легковесную библиотеку DNN и технологии кросс-компиляции. Образы виртуальных машин управляются с помощью дерева Меркла, и только корневой хэш загружается в цепочку.

Одноэтапный OPML имеет некоторые ограничения, такие как невозможность полного использования ускорения GPU. Для решения этой проблемы была предложена многоэтапная схема OPML:

• Только на последнем этапе вычисления в VM
• Другие этапы могут выполняться в локальной среде с использованием аппаратного ускорения
• Обеспечение целостности переходов между этапами с помощью дерева Меркла

! OPML: Машинное обучение с оптимистичным свертыванием

В качестве примера модели LLaMA используется двухфазный OPML:

1. Второй этап проводится валидационной игры на вычислительном графе
2. Первый этап преобразует вычисления с одного узла в выполнение инструкций VM

Многоуровневый OPML может обеспечить ускорение в α раз по сравнению с одноуровневым, и размер дерева Меркла также меньше.

! OPML: Машинное обучение с оптимистичным свертыванием

Чтобы обеспечить согласованность результатов, OPML использует фиксированную точность и кроссплатформенную библиотеку с плавающей запятой. По сравнению с ZKML, OPML имеет преимущества в вычислительной эффективности, универсальности и сложности разработки.

! OPML: Машинное обучение с оптимистичной системой свертывания

Технология OPML все еще находится в процессе разработки, приветствуем заинтересованных разработчиков участвовать в вкладе.