OPML: Эффективное решение для машинного обучения на Блокчейне
OPML(Оптимистичное машинное обучение) является инновационным методом вывода и обучения блокчейн AI моделей. По сравнению с ZKML, OPML обладает преимуществами низкой стоимости и высокой эффективности. Даже на обычном ПК можно запускать крупные языковые модели, такие как 26 ГБ 7B-LLaMA.
OPML использует механизм проверки игр, аналогичный системам Truebit и Optimistic Rollup, для реализации децентрализованных и проверяемых ML услуг. Его процесс включает в себя:
Запросчик инициирует задачу ML
Сервер выполняет задачи и отправляет результаты в Блокчейн
Проверяющий проверяет результаты, если есть возражения, то запускается верификационная игра.
Проведение окончательного арбитража на смарт-контракте
Игры с одноэтапной проверкой OPML используют протокол точного позиционирования и реализуют оффлайн выполнение и онлайн арбитраж через виртуальную машину (VM). Для повышения эффективности AI-выводов OPML использует специально разработанную легковесную библиотеку DNN и предоставляет скрипты преобразования для поддержки основных ML-фреймворков. Образы VM управляются с помощью дерева Меркла, только корневой хэш загружается в блокчейн.
Однако одноступенчатая верификация игр ограничена выполнением внутри виртуальной машины и не может в полной мере использовать ускорение GPU/TPU. Для этого OPML предложила многоступенчатую схему верификации игр. На не финальных этапах вычисления могут гибко выполняться в локальной среде, полностью раскрывая потенциал оборудования. Многоступенчатый метод значительно повышает эффективность выполнения, приближаясь к уровню нативной среды.
Многоступенчатый OPML обеспечивает α-кратное ускорение по сравнению с одноступенчатым, где α представляет собой коэффициент ускорения GPU/параллельных вычислений. Кроме того, многоступенчатый метод значительно уменьшает размер дерева Меркла.
Чтобы обеспечить согласованность между платформами, OPML использует фиксированную точку и программную библиотеку с плавающей точкой, преодолевая проблемы, вызванные аппаратными различиями.
В общем, OPML предоставляет эффективное и недорогое решение для машинного обучения на Блокчейн, обладая широкими перспективами применения.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
9 Лайков
Награда
9
5
Поделиться
комментарий
0/400
TheShibaWhisperer
· 8ч назад
Снова пришли играть за неудачников с новыми концепциями.
Посмотреть ОригиналОтветить0
MainnetDelayedAgain
· 8ч назад
Согласно данным базы данных, команда проекта обещала, что проверяемость была итеративно обновлена 78 раз.
OPML: Эффективное и недорогое решение для обучения и вывода AI моделей в блокчейне
OPML: Эффективное решение для машинного обучения на Блокчейне
OPML(Оптимистичное машинное обучение) является инновационным методом вывода и обучения блокчейн AI моделей. По сравнению с ZKML, OPML обладает преимуществами низкой стоимости и высокой эффективности. Даже на обычном ПК можно запускать крупные языковые модели, такие как 26 ГБ 7B-LLaMA.
OPML использует механизм проверки игр, аналогичный системам Truebit и Optimistic Rollup, для реализации децентрализованных и проверяемых ML услуг. Его процесс включает в себя:
! OPML: Машинное обучение с оптимистичным свертыванием
Игры с одноэтапной проверкой OPML используют протокол точного позиционирования и реализуют оффлайн выполнение и онлайн арбитраж через виртуальную машину (VM). Для повышения эффективности AI-выводов OPML использует специально разработанную легковесную библиотеку DNN и предоставляет скрипты преобразования для поддержки основных ML-фреймворков. Образы VM управляются с помощью дерева Меркла, только корневой хэш загружается в блокчейн.
! OPML: Машинное обучение с оптимистичной системой свертывания
Однако одноступенчатая верификация игр ограничена выполнением внутри виртуальной машины и не может в полной мере использовать ускорение GPU/TPU. Для этого OPML предложила многоступенчатую схему верификации игр. На не финальных этапах вычисления могут гибко выполняться в локальной среде, полностью раскрывая потенциал оборудования. Многоступенчатый метод значительно повышает эффективность выполнения, приближаясь к уровню нативной среды.
! OPML: Машинное обучение с оптимистичным свертыванием
На примере модели LLaMA, OPML использует двухступенчатый метод:
! OPML: Машинное обучение с оптимистичным свертыванием
Многоступенчатый OPML обеспечивает α-кратное ускорение по сравнению с одноступенчатым, где α представляет собой коэффициент ускорения GPU/параллельных вычислений. Кроме того, многоступенчатый метод значительно уменьшает размер дерева Меркла.
Чтобы обеспечить согласованность между платформами, OPML использует фиксированную точку и программную библиотеку с плавающей точкой, преодолевая проблемы, вызванные аппаратными различиями.
В общем, OPML предоставляет эффективное и недорогое решение для машинного обучения на Блокчейн, обладая широкими перспективами применения.