OPML: Использование оптимистичного подхода в машинном обучении
OPML(Оптимистическое машинное обучение) — это новая технология блокчейн-ИИ, которая использует оптимистичный подход для вывода и обучения ИИ-моделей. В отличие от ZKML, OPML имеет преимущества в низкой стоимости и высокой эффективности. Порог входа для применения OPML очень низок, обычный ПК может работать с крупными языковыми моделями без GPU, например, с моделью 7B-LLaMA размером 26 ГБ.
OPML использует механизм проверки игры для обеспечения децентрализации и проверяемого консенсуса ML-сервисов. Его рабочий процесс следующий:
Инициатор предлагает задачу по ML-сервису
Сервер завершает задачу и записывает результат в блокчейн
Проверяющий проверяет результаты, в случае разногласий запускается игра проверки
Однопошаговый арбитраж через смарт-контракты
Одноэтапная верификация игры
Однофазная верификация игры заимствовала принципы вычислительной делегации (RDoC), предполагая, что несколько сторон выполняют одну и ту же программу, а затем через точные вопросы локализуют спорные шаги, в конечном итоге арбитраж осуществляется с помощью смарт-контракта в блокчейне.
Одноэтапная верификация игры OPML содержит следующие элементы:
Создание виртуальной машины для выполнения вне цепи и арбитража на цепи (VM)
Реализация легковесной библиотеки DNN для повышения эффективности ИИ-выводов
Используйте кросс-компиляцию для компиляции кода модели ИИ в инструкции VM
Использование дерева Меркла для управления изображениями VM, загрузка только корневого хеша в цепочку
Во время тестирования базовая модель DNN для классификации MNIST может завершить инференс на ПК за 2 секунды, а весь процесс вызова занимает около 2 минут.
Многоступенчатая верификация игры
Ограничение однофазной проверки игр заключается в том, что все вычисления должны выполняться внутри VM и не могут использовать ускорение GPU/TPU. В этой связи OPML предложила расширение многофазного протокола:
Только на последнем этапе вычисления в VM
Другие этапы могут выполняться в локальной среде с использованием аппаратного ускорения, такого как CPU, GPU и т. д.
Значительное повышение производительности выполнения за счет уменьшения зависимости от VM
Многоуровневый OPML на примере модели LLaMA, использует двухступенчатый метод:
На втором этапе проводится верификация игры на вычислительном графе, можно использовать многоядерный CPU или GPU.
На первом этапе вычисление отдельного узла преобразуется в инструкции VM.
Когда вычисление в одном узле в вычислительной графе по-прежнему сложно, можно ввести больше этапов для дальнейшего повышения эффективности.
Анализ показывает, что двухступенчатый OPML может обеспечить ускорение в α раз по сравнению с одноступенчатым, где α представляет собой коэффициент ускорения GPU или параллельных вычислений. Кроме того, размер дерева Меркла для двухступенчатого OPML составляет O(m+n), что значительно меньше, чем у одноступенчатого O(mn).
Чтобы обеспечить согласованность результатов ML, OPML использует два метода:
Используйте фиксированный алгоритм ( для технологии квантования ), чтобы уменьшить ошибки округления с плавающей запятой.
Использовать кроссплатформенную согласованную библиотеку программного обеспечения с плавающей запятой
Эти технологии помогают преодолевать проблемы, связанные с плавающими переменными и различиями между платформами, улучшая надежность вычислений OPML.
OPML против ZKML
OPML в настоящее время в основном сосредоточен на выводе моделей ML, но фреймворк также поддерживает процесс обучения. Проект OPML все еще находится в разработке, приглашаем заинтересованных людей присоединиться к вкладу.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
OPML: Оптимистичное машинное обучение способствует развитию Блокчейн AI с низкими затратами и высокой эффективностью
OPML: Использование оптимистичного подхода в машинном обучении
OPML(Оптимистическое машинное обучение) — это новая технология блокчейн-ИИ, которая использует оптимистичный подход для вывода и обучения ИИ-моделей. В отличие от ZKML, OPML имеет преимущества в низкой стоимости и высокой эффективности. Порог входа для применения OPML очень низок, обычный ПК может работать с крупными языковыми моделями без GPU, например, с моделью 7B-LLaMA размером 26 ГБ.
! OPML: Машинное обучение с оптимистичным свертыванием
OPML использует механизм проверки игры для обеспечения децентрализации и проверяемого консенсуса ML-сервисов. Его рабочий процесс следующий:
Одноэтапная верификация игры
Однофазная верификация игры заимствовала принципы вычислительной делегации (RDoC), предполагая, что несколько сторон выполняют одну и ту же программу, а затем через точные вопросы локализуют спорные шаги, в конечном итоге арбитраж осуществляется с помощью смарт-контракта в блокчейне.
Одноэтапная верификация игры OPML содержит следующие элементы:
Во время тестирования базовая модель DNN для классификации MNIST может завершить инференс на ПК за 2 секунды, а весь процесс вызова занимает около 2 минут.
Многоступенчатая верификация игры
Ограничение однофазной проверки игр заключается в том, что все вычисления должны выполняться внутри VM и не могут использовать ускорение GPU/TPU. В этой связи OPML предложила расширение многофазного протокола:
Многоуровневый OPML на примере модели LLaMA, использует двухступенчатый метод:
Когда вычисление в одном узле в вычислительной графе по-прежнему сложно, можно ввести больше этапов для дальнейшего повышения эффективности.
! OPML: Машинное обучение с оптимистичным свертыванием
Улучшение производительности
Анализ показывает, что двухступенчатый OPML может обеспечить ускорение в α раз по сравнению с одноступенчатым, где α представляет собой коэффициент ускорения GPU или параллельных вычислений. Кроме того, размер дерева Меркла для двухступенчатого OPML составляет O(m+n), что значительно меньше, чем у одноступенчатого O(mn).
! OPML: Машинное обучение с оптимистичным свертыванием
Согласованность и определенность
Чтобы обеспечить согласованность результатов ML, OPML использует два метода:
Эти технологии помогают преодолевать проблемы, связанные с плавающими переменными и различиями между платформами, улучшая надежность вычислений OPML.
OPML против ZKML
OPML в настоящее время в основном сосредоточен на выводе моделей ML, но фреймворк также поддерживает процесс обучения. Проект OPML все еще находится в разработке, приглашаем заинтересованных людей присоединиться к вкладу.
! OPML: Машинное обучение с оптимистичной системой свертывания