OPML: Використання оптимістичного підходу в машинному навчанні

OPML(Оптимістичне машинне навчання) є новою технологією блокчейн AI, яка використовує оптимістичний підхід для проведення висновків та навчання AI моделей. У порівнянні з ZKML, OPML має переваги у вигляді низьких витрат та високої ефективності. Поріг входження в OPML дуже низький, звичайний ПК може запускати великі мовні моделі без GPU, такі як модель 7B-LLaMA розміром 26 ГБ.

OPML використовує механізм верифікаційних ігор для забезпечення децентралізації та верифікованого консенсусу сервісів ML. Його робочий процес виглядає наступним чином:

1. Ініціатор пропонує завдання ML-сервісу
2. Сервер виконав завдання та зафіксував результати в блокчейні
3. Верифікатор перевіряє результати, у разі незгоди запускається верифікаційна гра
4. Односторонній арбітраж через смарт-контракти

Одноетапна верифікаційна гра

Одноетапна верифікація гри запозичила принципи обчислювальної делегації (RDoC), припускаючи, що кілька сторін виконують одну й ту ж програму, а потім шляхом точних запитів локалізують спірні етапи, врешті-решт арбітраж здійснюється за допомогою смарт-контракту на блокчейні.

Одноетапна верифікаційна гра OPML містить такі елементи:

• Створення віртуальної машини для виконання поза ланцюгом та арбітражу на ланцюзі (VM)
• Реалізація легковагової бібліотеки DNN для підвищення ефективності AI-інференції
• Використовуйте крос-компіляцію для компіляції коду моделі ШІ у команди VM
• Використання дерева Меркла для управління VM-образами, завантаження лише кореневого хешу в блокчейн

У тестуванні базова модель DNN для класифікації MNIST може завершити інференцію на ПК за 2 секунди, весь процес виклику триває близько 2 хвилин.

! OPML: Машинне навчання з оптимістичною системою зведення

Багатоступенева верифікація гри

Обмеження одностадійної верифікаційної гри полягає в тому, що всі обчислення повинні виконуватися всередині VM, і не можна використовувати прискорення GPU/TPU. Для цього OPML запропонував розширення багатостадійного протоколу:

• Обчислення лише на останній стадії у VM
• Інші етапи можуть виконуватися в локальному середовищі з використанням апаратного прискорення, такого як CPU, GPU тощо.
• Значно покращити продуктивність виконання за рахунок зменшення залежності від VM

Багатоступеневий OPML на прикладі моделі LLaMA, використовуючи двоступеневий підхід:

1. Другий етап проходить перевірку гри на обчислювальній графіці, можна використовувати багатопоточний ЦП або ГП.
2. Перший етап перетворює обчислення окремого вузла на команди VM

Коли обчислення в одній вершині графіка обчислень все ще є складними, можна ввести більше етапів для подальшого підвищення ефективності.

Покращення продуктивності

Аналіз показує, що двоступеневий OPML може забезпечити прискорення в α разів порівняно з одноступеневим, де α представляє прискорення GPU або паралельних обчислень. Крім того, розмір меркл-дерева для двоступеневого OPML становить O(m+n), що значно менше, ніж O(mn) для одноступеневого.

! OPML: Машинне навчання з Optimistic Rollup

Узгодженість та визначеність

Щоб забезпечити узгодженість результатів ML, OPML використовує два методи:

1. Використовуйте алгоритм фіксованої точки ( технології квантування ) для зменшення помилки округлення з плаваючою точкою
2. Використання крос-платформеної єдиної бібліотеки програмного забезпечення з плаваючою комою

Ці технології допомагають подолати виклики, спричинені плаваючими змінними та різницею у платформах, підвищуючи надійність обчислень OPML.

OPML проти ZKML

OPML наразі зосереджується на інференції ML моделей, але фреймворк також підтримує процес навчання. Проект OPML все ще розробляється, запрошуємо зацікавлених осіб приєднатися до внесків.