OPML: Ефективне рішення для машинного навчання на базі Блокчейн
OPML(Оптимістичне машинне навчання) є інноваційним методом інференції та навчання AI моделі на основі Блокчейн. На відміну від ZKML, OPML має переваги у вигляді низьких витрат та високої ефективності. Навіть на звичайному ПК можна запускати великі мовні моделі, такі як 26GB 7B-LLaMA.
OPML використовує механізм верифікації ігор, подібний до систем Truebit та Optimistic Rollup, для реалізації децентралізованих та верифікованих ML-сервісів. Його процес включає:
Запитувач ініціює завдання ML
Сервер виконує завдання та подає результати в Блокчейн
Валідатор перевіряє результати, якщо є заперечення, то запускається верифікаційна гра
Виконання остаточного арбітражу на смарт-контракті
Гра з однофазною верифікацією OPML використовує протокол точного позиціонування, реалізуючи поза ланцюгом виконання та арбітраж на ланцюзі через віртуальну машину (VM). Для підвищення ефективності AI-інференції OPML використовує спеціально розроблену легку бібліотеку DNN та надає скрипти перетворення для підтримки основних ML-фреймворків. Образи VM керуються деревом Меркла, на ланцюг завантажується лише кореневий хеш.
Однак, одноетапна верифікація гри обмежена виконанням всередині VM і не може повністю використовувати прискорення GPU/TPU. Для цього OPML запропонував багатоступеневу верифікацію гри. На неостанній стадії обчислення можуть гнучко виконуватися в локальному середовищі, максимально використовуючи апаратні можливості. Багатоступеневий підхід значно підвищує ефективність виконання, наближаючись до рівня нативного середовища.
В якості прикладу моделі LLaMA, OPML використовує двофазний метод:
Другий етап проводиться верифікаційною грою на обчислювальному графіку, можна використовувати багатопоточний ЦП або ГП.
Перший етап перетворює обчислення одного вузла на виконання інструкцій VM
Багатоступенева OPML забезпечує прискорення в α разів у порівнянні з одномоментним, де α є коефіцієнтом прискорення GPU/паралельних обчислень. Крім того, багатоступенева методика значно зменшує розмір дерева Меркла.
Щоб забезпечити крос-платформну узгодженість, OPML використовує фіксовану точку алгоритмів і бібліотеку програмного плаваючого числа, що дозволяє подолати виклики, пов'язані з апаратними відмінностями.
В цілому, OPML забезпечує ефективне і маловитратне рішення для машинного навчання на Блокчейні, з широкими перспективами застосування.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
14 лайків
Нагородити
14
7
Поділіться
Прокоментувати
0/400
GasDevourer
· 20год тому
газ такий дорогий, проект не думай, що втечеш!
Переглянути оригіналвідповісти на0
AlwaysAnon
· 07-23 20:42
А це знову новий у блокчейні ai
Переглянути оригіналвідповісти на0
TheShibaWhisperer
· 07-22 12:21
Знову прийшли грати за невдах новими концепціями.
Переглянути оригіналвідповісти на0
MainnetDelayedAgain
· 07-22 12:20
Згідно з базою даних, вечірка проєкту пообіцяла, що перевірка була ітераційною 78 разів.
OPML: ефективне та маловартісне навчання та виведення AI моделей у Блокчейні
OPML: Ефективне рішення для машинного навчання на базі Блокчейн
OPML(Оптимістичне машинне навчання) є інноваційним методом інференції та навчання AI моделі на основі Блокчейн. На відміну від ZKML, OPML має переваги у вигляді низьких витрат та високої ефективності. Навіть на звичайному ПК можна запускати великі мовні моделі, такі як 26GB 7B-LLaMA.
OPML використовує механізм верифікації ігор, подібний до систем Truebit та Optimistic Rollup, для реалізації децентралізованих та верифікованих ML-сервісів. Його процес включає:
Гра з однофазною верифікацією OPML використовує протокол точного позиціонування, реалізуючи поза ланцюгом виконання та арбітраж на ланцюзі через віртуальну машину (VM). Для підвищення ефективності AI-інференції OPML використовує спеціально розроблену легку бібліотеку DNN та надає скрипти перетворення для підтримки основних ML-фреймворків. Образи VM керуються деревом Меркла, на ланцюг завантажується лише кореневий хеш.
Однак, одноетапна верифікація гри обмежена виконанням всередині VM і не може повністю використовувати прискорення GPU/TPU. Для цього OPML запропонував багатоступеневу верифікацію гри. На неостанній стадії обчислення можуть гнучко виконуватися в локальному середовищі, максимально використовуючи апаратні можливості. Багатоступеневий підхід значно підвищує ефективність виконання, наближаючись до рівня нативного середовища.
В якості прикладу моделі LLaMA, OPML використовує двофазний метод:
Багатоступенева OPML забезпечує прискорення в α разів у порівнянні з одномоментним, де α є коефіцієнтом прискорення GPU/паралельних обчислень. Крім того, багатоступенева методика значно зменшує розмір дерева Меркла.
Щоб забезпечити крос-платформну узгодженість, OPML використовує фіксовану точку алгоритмів і бібліотеку програмного плаваючого числа, що дозволяє подолати виклики, пов'язані з апаратними відмінностями.
В цілому, OPML забезпечує ефективне і маловитратне рішення для машинного навчання на Блокчейні, з широкими перспективами застосування.