OPML: ефективне та маловартісне навчання та виведення AI моделей у Блокчейні

OPML: Ефективне рішення для машинного навчання на базі Блокчейн

OPML(Оптимістичне машинне навчання) є інноваційним методом інференції та навчання AI моделі на основі Блокчейн. На відміну від ZKML, OPML має переваги у вигляді низьких витрат та високої ефективності. Навіть на звичайному ПК можна запускати великі мовні моделі, такі як 26GB 7B-LLaMA.

OPML використовує механізм верифікації ігор, подібний до систем Truebit та Optimistic Rollup, для реалізації децентралізованих та верифікованих ML-сервісів. Його процес включає:

  1. Запитувач ініціює завдання ML
  2. Сервер виконує завдання та подає результати в Блокчейн
  3. Валідатор перевіряє результати, якщо є заперечення, то запускається верифікаційна гра
  4. Виконання остаточного арбітражу на смарт-контракті

OPML:використання системи Optimistic Rollup в машинному навчанні

Гра з однофазною верифікацією OPML використовує протокол точного позиціонування, реалізуючи поза ланцюгом виконання та арбітраж на ланцюзі через віртуальну машину (VM). Для підвищення ефективності AI-інференції OPML використовує спеціально розроблену легку бібліотеку DNN та надає скрипти перетворення для підтримки основних ML-фреймворків. Образи VM керуються деревом Меркла, на ланцюг завантажується лише кореневий хеш.

OPML:Використання системи Optimistic Rollup в машинному навчанні

Однак, одноетапна верифікація гри обмежена виконанням всередині VM і не може повністю використовувати прискорення GPU/TPU. Для цього OPML запропонував багатоступеневу верифікацію гри. На неостанній стадії обчислення можуть гнучко виконуватися в локальному середовищі, максимально використовуючи апаратні можливості. Багатоступеневий підхід значно підвищує ефективність виконання, наближаючись до рівня нативного середовища.

OPML:Використання системи Optimistic Rollup для машинного навчання

В якості прикладу моделі LLaMA, OPML використовує двофазний метод:

  • Другий етап проводиться верифікаційною грою на обчислювальному графіку, можна використовувати багатопоточний ЦП або ГП.
  • Перший етап перетворює обчислення одного вузла на виконання інструкцій VM

OPML:використання системи Optimistic Rollup у машинному навчанні

Багатоступенева OPML забезпечує прискорення в α разів у порівнянні з одномоментним, де α є коефіцієнтом прискорення GPU/паралельних обчислень. Крім того, багатоступенева методика значно зменшує розмір дерева Меркла.

Щоб забезпечити крос-платформну узгодженість, OPML використовує фіксовану точку алгоритмів і бібліотеку програмного плаваючого числа, що дозволяє подолати виклики, пов'язані з апаратними відмінностями.

OPML:Використання системи Optimistic Rollup для машинного навчання

В цілому, OPML забезпечує ефективне і маловитратне рішення для машинного навчання на Блокчейні, з широкими перспективами застосування.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 5
  • Поділіться
Прокоментувати
0/400
TheShibaWhisperervip
· 07-22 12:21
Знову прийшли грати за невдах новими концепціями.
Переглянути оригіналвідповісти на0
MainnetDelayedAgainvip
· 07-22 12:20
Згідно з базою даних, вечірка проєкту пообіцяла, що перевірка була ітераційною 78 разів.
Переглянути оригіналвідповісти на0
TestnetFreeloadervip
· 07-22 12:18
Pc біжить llama? Це звучить смачно.
Переглянути оригіналвідповісти на0
GateUser-c802f0e8vip
· 07-22 12:16
Чому все кидають у блокчейні?
Переглянути оригіналвідповісти на0
LiquidationKingvip
· 07-22 12:07
Не можу грати з такими складними речами.
Переглянути оригіналвідповісти на0
  • Закріпити