Перетворення AI та DePIN: зростання розподілених обчислювальних мереж
З 2023 року AI та DePIN стали популярними тенденціями в сфері Web3, ринкова капіталізація яких склала відповідно 30 мільярдів доларів та 23 мільярди доларів. Ця стаття зосереджується на перетині обох областей і досліджує розвиток відповідних протоколів.
У стеку технологій ШІ мережа DePIN забезпечує практичність для ШІ за рахунок обчислювальних ресурсів. Розвиток великих технологічних компаній призвів до нестачі GPU, що ускладнює іншим розробникам отримання достатньої кількості GPU для обчислень. Це зазвичай призводить до вибору централізованих хмарних постачальників, але через довгострокові контракти на обладнання, які недостатньо гнучкі, ефективність є нижчою.
DePIN пропонує більш гнучкі та економічно ефективні альтернативи, стимулюючи внески ресурсів через винагороди у токенах. DePIN у сфері ШІ краудфандить графічні процесори (GPU) від приватних власників до дата-центрів, забезпечуючи єдине постачання для користувачів, яким потрібен доступ до апаратного забезпечення. Це не тільки надає розробникам можливість налаштовувати та отримувати доступ за запитом, але й приносить додатковий дохід власникам GPU.
На ринку існує безліч мереж AI DePIN, у цій статті будуть розглянуті функції, цілі та досягнення кожного з протоколів, щоб зрозуміти їхні відмінності.
Огляд мережі AI DePIN
Render є піонером P2P-мережі, що надає можливості GPU-обчислень, спочатку зосереджуючись на рендерингу контенту, а згодом розширивши свій спектр на AI-обчислювальні завдання.
Основні моменти:
Заснована компанією OTOY, яка спеціалізується на хмарних графіках
GPU-мережі використовуються великими компаніями розважальної індустрії
Співпраця з Stability AI та іншими для інтеграції AI-моделей та 3D-рендерингових робочих процесів
Схвалення кількох обчислювальних клієнтів, інтеграція більшої кількості мереж DePIN GPU
Akash позиціонується як "супер-хмара" альтернатива, що підтримує зберігання, обчислення на GPU та CPU. Використовуючи дружні до розробників інструменти, такі як платформа контейнерів і керовані Kubernetes обчислювальні вузли, можна безшовно розгортати програмне забезпечення в різних середовищах.
Основні моменти:
Для широкого спектру обчислювальних завдань, від загальних обчислень до хостингу в мережі
AkashML дозволяє мережам GPU запускати понад 15 000 моделей на Hugging Face
Хостинг додатків, таких як чат-боти на основі LLM моделей Mistral AI
Створення метасвіту, платформи для розгортання ШІ тощо за допомогою його Supercloud
io.net надає доступ до розподілених GPU хмарних кластерів, спеціально призначених для випадків використання в AI та ML. Агрегує GPU з дата-центрів, криптомайнерів та інших областей.
Основні моменти:
IO-SDK сумісний з такими фреймворками, як PyTorch, багатошарова архітектура може динамічно розширюватися
Підтримка створення 3 різних типів кластерів, запуск протягом 2 хвилин
Співпраця з Render, Filecoin та іншими для інтеграції ресурсів GPU
Gensyn надає можливості GPU, зосереджені на обчисленнях машинного навчання та глибокого навчання. Стверджується, що через концепції, такі як доказ навчання, реалізується більш ефективний механізм валідації.
Основні моменти:
Вартість еквівалентного GPU V100 приблизно 0,40 долара за годину, що суттєво економить.
Можна доопрацювати попередньо навчену базову модель для виконання конкретних завдань
Забезпечення децентралізованої, загальносвітової базової моделі
Aethir спеціально розроблений для підприємств GPU, зосереджуючись на обчислювально інтенсивних сферах, таких як ШІ, МЛ, хмарні ігри тощо. Контейнери в мережі виконують роль віртуальних кінцевих точок для виконання хмарних застосунків, забезпечуючи низьку затримку.
Основні моменти:
Розширення до послуг хмарних телефонів, співпраця з APhone для запуску децентралізованого хмарного смартфона
Встановлення широкої співпраці з великими компаніями Web2, такими як NVIDIA
Співпраця з проектами Web3, такими як CARV, Magic Eden
Phala Network виконуватиме роль виконувального шару рішень Web3 AI. Його блокчейн є бездоверчою хмарною обчислювальною схемою, що вирішує проблеми конфіденційності через надійне середовище виконання (TEE).
Основні моменти:
Виконує роль протоколу копродукції для перевірюваних обчислень, що дозволяє агентам ШІ отримувати доступ до ресурсів на ланцюгу
AI代理合约 може бути отримано через Redpill з таких провідних мовних моделей, як OpenAI
Майбутнє буде включати такі системи багатократного доказу, як zk-proofs, MPC, FHE тощо
У майбутньому буде підтримка GPU TEE, таких як H100, що підвищить обчислювальні можливості.
Порівняння проектів
| | Рендер | Акаш | io.net | Генсин | Етір | Пхала |
|--------|------------|------------------|---------------------|--------|--------------|---------|
| Апаратне забезпечення | Графічний процесор і центральний процесор | Графічний процесор і центральний процесор | Графічний процесор і центральний процесор | Відеокарта | Відеокарта | Центральний процесор |
| Основні напрямки | Графічний рендеринг та ШІ | Хмарні обчислення, рендеринг та ШІ | ШІ | ШІ | ШІ, хмарні ігри та телекомунікації | Виконання ШІ на блокчейні |
| Типи завдань AI| Висновок | Навчання та висновок | Навчання та висновок | Навчання| Навчання | Виконання |
| Ціна роботи | Ціна на основі продуктивності | Зворотні аукціони | Ринкова ціна | Ринкова ціна | Система тендерів | Розрахунок прав |
| Блокчейн | Солана | Космос | Солана | Генсин | Арбітраж | Горошок |
| Приватність даних | Шифрування та хешування | mTLS аутентифікація | Шифрування даних | Безпечне відображення | Шифрування | TEE |
| Витрати на роботу | 0.5-5%/робота | 20% USDC, 4% AKT| 2% USDC, 0.25% резерв | Низькі витрати | 20%/сеанс | Пропорційно до стейкінгу|
| Безпека | Доказ доказу | Доказ прав | Доказ обчислень | Доказ прав | Доказ можливостей рендерингу | Спадкування з релейного ланцюга|
| Підтвердження завершення | - | - | Підтвердження з часовим замком | Підтвердження навчання | Підтвердження рендерингу | Підтвердження TEE |
| Гарантія якості | Спір | - | - | Перевірка та повідомлення | Перевірка вузлів | Віддалене підтвердження |
| GPU-кластер | Ні | Так | Так | Так | Так | Ні |
Розподілена обчислювальна система реалізує кластер GPU, підвищуючи ефективність навчання та масштабованість. Для навчання складних моделей ШІ потрібна потужна обчислювальна потужність, зазвичай покладаючись на розподілені обчислення. Наприклад, модель GPT-4 від OpenAI має понад 1,8 трильйона параметрів, на її навчання витрачено 3-4 місяці, використовуючи близько 25 000 GPU Nvidia A100.
Більшість проектів тепер об'єдналися в кластери для реалізації паралельних обчислень. io.net у співпраці з іншими проектами вже в Q1 розгорнув понад 3 800 кластерів. Render хоч і не підтримує кластери, але розкладає один кадр на кілька вузлів для одночасної обробки. Phala підтримує кластеризацію CPU-робітників.
Кластерна структура є важливою для мережі робочих потоків ШІ, але кількість і типи кластерних графічних процесорів, що відповідають потребам розробників, є іншим питанням.
Приватність даних
Розробка AI-моделей потребує великих обсягів даних, що можуть містити чутливу інформацію. Samsung через занепокоєння приватністю заборонив ChatGPT, а витік 38 ТБ даних від Microsoft ще більше підкреслює важливість безпеки AI. Різні методи захисту даних є надзвичайно важливими для повернення прав постачальникам даних.
Більшість проєктів використовують певне шифрування даних для захисту приватності. Render використовує шифрування та хешування, io.net та Gensyn застосовують шифрування даних, Akash використовує автентифікацію mTLS.
io.net спільно з Mind Network запустили повну гомоморфну криптографію (FHE), яка дозволяє обробляти зашифровані дані без їх розшифрування. Це краще захищає конфіденційність, ніж існуючі технології шифрування.
Phala Network впроваджує довірене середовище виконання ( TEE ), щоб запобігти зовнішньому доступу або змінам даних. Воно також поєднується з zk-доказами для інтеграції RiscZero zkVM.
Підтвердження завершення обчислень та перевірка якості
Оскільки обсяг послуг широкий, кінцева якість може не відповідати стандартам користувача. Завершення підтверджує, що GPU дійсно використовувався для необхідної послуги, контроль якості буде корисним для користувача.
Gensyn та Aethir генерують підтвердження виконання, io.net підтверджує, що продуктивність GPU використовується без проблем. Gensyn та Aethir проводять перевірку якості. Gensyn використовує валідаторів для повторного виконання частини підтверджень, скаржник знову перевіряє. Aethir використовує контрольні точки для оцінки якості обслуговування, штрафуючи неналежні послуги. Render пропонує процес вирішення суперечок, комісія може зменшити проблемні вузли. Phala генерує TEE підтвердження, забезпечуючи виконання операцій AI-агентом в блокчейні.
Навчання моделей ШІ потребує висококласних графічних процесорів, таких як Nvidia A100 та H100. Продуктивність H100 в інференції в 4 рази вища за A100, що робить його найкращим вибором, особливо для великих компаній.
Децентралізований ринок GPU повинен конкурувати з Web2, не лише пропонуючи низькі ціни, а й задовольняючи реальні потреби. У 2023 році Nvidia доставила 500 тисяч H100 великим технологічним компаніям, отримуючи відповідні витрати на апаратуру. Важливо враховувати, скільки апаратних засобів ці проекти можуть ввести за низькою ціною.
Кожен проект пропонує різну обчислювальну потужність. Akash має лише більше 150 H100 та A100, io.net і Aethir мають понад 2000. Попередньо навчений LLM зазвичай потребує від 248 до понад 2000 GPU кластерів, останні два проекти більше підходять для обчислень великих моделей.
Наразі вартість децентралізованих GPU послуг значно нижча, ніж централізованих. Gensyn та Aethir стверджують, що обладнання класу A100 коштує менше 1 долара за годину, але знадобиться час для перевірки.
Мережеве з'єднання GPU-кластерів, хоча і має велику кількість GPU та низьку вартість, обмежене за пам'яттю в порівнянні зі з'єднанням GPU через NVLink. NVLink підтримує безпосередню комунікацію між GPU, що підходить для моделей з великою кількістю параметрів та великими наборами даних.
Проте, децентралізована GPU-мережа все ще забезпечує потужні обчислювальні можливості та масштабованість для динамічних навантажень або користувачів, які потребують гнучкості, створюючи можливості для розробки більшої кількості AI-випадків.
надає споживчі GPU/CPU
ЦП також дуже важливий у навчанні моделей ШІ, використовується для попередньої обробки даних та управління пам'яттю. Споживчі графічні процесори можуть використовуватися для доопрацювання попередньо навчених моделей або для навчання малих масштабів.
Враховуючи, що понад 85% споживачів мають невикористані GPU, такі проекти, як Render, Akash та io.net, також обслуговують цю частину ринку. Це дозволяє їм зосередитися на масштабних обчисленнях, загальному маломасштабному рендерингу або на комбінації обох.
Висновок
Сфера DePIN в AI все ще є новою і стикається з викликами. Наприклад, io.net був звинувачений у фальсифікації кількості GPU, але потім вирішив цю проблему за допомогою доказу роботи.
Незважаючи на це, кількість завдань та обладнання, що виконуються в цих мережах, значно зросла, що підкреслює зростання попиту на альтернативи постачальникам Web2 хмар. Водночас різке збільшення постачальників обладнання свідчить про недостатнє використання пропозиції. Це підтверджує відповідність продуктів мережі AI DePIN ринку, ефективно вирішуючи виклики попиту та пропозиції.
Оглядаючи в майбутнє, ШІ має потенціал стати процвітаючим ринком в трильйон доларів, і ці розподілені мережі GPU відіграватимуть ключову роль у забезпеченні розробників економічно ефективними альтернативами обчислень. Постійно звужуючи розрив між попитом і пропозицією, ці мережі значно сприятимуть майбутньому ландшафту ШІ та обчислювальної інфраструктури.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
11 лайків
Нагородити
11
4
Поділіться
Прокоментувати
0/400
DecentralizeMe
· 07-24 18:34
Що таке depin, ще гірше, ніж робити проект poi.
Переглянути оригіналвідповісти на0
ContractCollector
· 07-24 18:33
Децентралізація才是王道啊
Переглянути оригіналвідповісти на0
CoffeeNFTs
· 07-24 18:10
Попереду є Amazon, позаду - GPT. Хто розуміє цю велику гру з GPU?
AI DePIN мережа: розподілені GPU обчислення сприяють розвитку ШІ
Перетворення AI та DePIN: зростання розподілених обчислювальних мереж
З 2023 року AI та DePIN стали популярними тенденціями в сфері Web3, ринкова капіталізація яких склала відповідно 30 мільярдів доларів та 23 мільярди доларів. Ця стаття зосереджується на перетині обох областей і досліджує розвиток відповідних протоколів.
! Перетин AI та DePIN
У стеку технологій ШІ мережа DePIN забезпечує практичність для ШІ за рахунок обчислювальних ресурсів. Розвиток великих технологічних компаній призвів до нестачі GPU, що ускладнює іншим розробникам отримання достатньої кількості GPU для обчислень. Це зазвичай призводить до вибору централізованих хмарних постачальників, але через довгострокові контракти на обладнання, які недостатньо гнучкі, ефективність є нижчою.
DePIN пропонує більш гнучкі та економічно ефективні альтернативи, стимулюючи внески ресурсів через винагороди у токенах. DePIN у сфері ШІ краудфандить графічні процесори (GPU) від приватних власників до дата-центрів, забезпечуючи єдине постачання для користувачів, яким потрібен доступ до апаратного забезпечення. Це не тільки надає розробникам можливість налаштовувати та отримувати доступ за запитом, але й приносить додатковий дохід власникам GPU.
На ринку існує безліч мереж AI DePIN, у цій статті будуть розглянуті функції, цілі та досягнення кожного з протоколів, щоб зрозуміти їхні відмінності.
Огляд мережі AI DePIN
Render є піонером P2P-мережі, що надає можливості GPU-обчислень, спочатку зосереджуючись на рендерингу контенту, а згодом розширивши свій спектр на AI-обчислювальні завдання.
Основні моменти:
Akash позиціонується як "супер-хмара" альтернатива, що підтримує зберігання, обчислення на GPU та CPU. Використовуючи дружні до розробників інструменти, такі як платформа контейнерів і керовані Kubernetes обчислювальні вузли, можна безшовно розгортати програмне забезпечення в різних середовищах.
Основні моменти:
io.net надає доступ до розподілених GPU хмарних кластерів, спеціально призначених для випадків використання в AI та ML. Агрегує GPU з дата-центрів, криптомайнерів та інших областей.
Основні моменти:
Gensyn надає можливості GPU, зосереджені на обчисленнях машинного навчання та глибокого навчання. Стверджується, що через концепції, такі як доказ навчання, реалізується більш ефективний механізм валідації.
Основні моменти:
Aethir спеціально розроблений для підприємств GPU, зосереджуючись на обчислювально інтенсивних сферах, таких як ШІ, МЛ, хмарні ігри тощо. Контейнери в мережі виконують роль віртуальних кінцевих точок для виконання хмарних застосунків, забезпечуючи низьку затримку.
Основні моменти:
Phala Network виконуватиме роль виконувального шару рішень Web3 AI. Його блокчейн є бездоверчою хмарною обчислювальною схемою, що вирішує проблеми конфіденційності через надійне середовище виконання (TEE).
Основні моменти:
Порівняння проектів
| | Рендер | Акаш | io.net | Генсин | Етір | Пхала | |--------|------------|------------------|---------------------|--------|--------------|---------| | Апаратне забезпечення | Графічний процесор і центральний процесор | Графічний процесор і центральний процесор | Графічний процесор і центральний процесор | Відеокарта | Відеокарта | Центральний процесор | | Основні напрямки | Графічний рендеринг та ШІ | Хмарні обчислення, рендеринг та ШІ | ШІ | ШІ | ШІ, хмарні ігри та телекомунікації | Виконання ШІ на блокчейні | | Типи завдань AI| Висновок | Навчання та висновок | Навчання та висновок | Навчання| Навчання | Виконання | | Ціна роботи | Ціна на основі продуктивності | Зворотні аукціони | Ринкова ціна | Ринкова ціна | Система тендерів | Розрахунок прав | | Блокчейн | Солана | Космос | Солана | Генсин | Арбітраж | Горошок | | Приватність даних | Шифрування та хешування | mTLS аутентифікація | Шифрування даних | Безпечне відображення | Шифрування | TEE | | Витрати на роботу | 0.5-5%/робота | 20% USDC, 4% AKT| 2% USDC, 0.25% резерв | Низькі витрати | 20%/сеанс | Пропорційно до стейкінгу| | Безпека | Доказ доказу | Доказ прав | Доказ обчислень | Доказ прав | Доказ можливостей рендерингу | Спадкування з релейного ланцюга| | Підтвердження завершення | - | - | Підтвердження з часовим замком | Підтвердження навчання | Підтвердження рендерингу | Підтвердження TEE | | Гарантія якості | Спір | - | - | Перевірка та повідомлення | Перевірка вузлів | Віддалене підтвердження | | GPU-кластер | Ні | Так | Так | Так | Так | Ні |
! Перетин AI та DePIN
важливість
Доступність кластерних та паралельних обчислень
Розподілена обчислювальна система реалізує кластер GPU, підвищуючи ефективність навчання та масштабованість. Для навчання складних моделей ШІ потрібна потужна обчислювальна потужність, зазвичай покладаючись на розподілені обчислення. Наприклад, модель GPT-4 від OpenAI має понад 1,8 трильйона параметрів, на її навчання витрачено 3-4 місяці, використовуючи близько 25 000 GPU Nvidia A100.
Більшість проектів тепер об'єдналися в кластери для реалізації паралельних обчислень. io.net у співпраці з іншими проектами вже в Q1 розгорнув понад 3 800 кластерів. Render хоч і не підтримує кластери, але розкладає один кадр на кілька вузлів для одночасної обробки. Phala підтримує кластеризацію CPU-робітників.
Кластерна структура є важливою для мережі робочих потоків ШІ, але кількість і типи кластерних графічних процесорів, що відповідають потребам розробників, є іншим питанням.
Приватність даних
Розробка AI-моделей потребує великих обсягів даних, що можуть містити чутливу інформацію. Samsung через занепокоєння приватністю заборонив ChatGPT, а витік 38 ТБ даних від Microsoft ще більше підкреслює важливість безпеки AI. Різні методи захисту даних є надзвичайно важливими для повернення прав постачальникам даних.
Більшість проєктів використовують певне шифрування даних для захисту приватності. Render використовує шифрування та хешування, io.net та Gensyn застосовують шифрування даних, Akash використовує автентифікацію mTLS.
io.net спільно з Mind Network запустили повну гомоморфну криптографію (FHE), яка дозволяє обробляти зашифровані дані без їх розшифрування. Це краще захищає конфіденційність, ніж існуючі технології шифрування.
Phala Network впроваджує довірене середовище виконання ( TEE ), щоб запобігти зовнішньому доступу або змінам даних. Воно також поєднується з zk-доказами для інтеграції RiscZero zkVM.
Підтвердження завершення обчислень та перевірка якості
Оскільки обсяг послуг широкий, кінцева якість може не відповідати стандартам користувача. Завершення підтверджує, що GPU дійсно використовувався для необхідної послуги, контроль якості буде корисним для користувача.
Gensyn та Aethir генерують підтвердження виконання, io.net підтверджує, що продуктивність GPU використовується без проблем. Gensyn та Aethir проводять перевірку якості. Gensyn використовує валідаторів для повторного виконання частини підтверджень, скаржник знову перевіряє. Aethir використовує контрольні точки для оцінки якості обслуговування, штрафуючи неналежні послуги. Render пропонує процес вирішення суперечок, комісія може зменшити проблемні вузли. Phala генерує TEE підтвердження, забезпечуючи виконання операцій AI-агентом в блокчейні.
Статистичні дані апаратного забезпечення
| | Рендер | Акаш | io.net | Генсин | Етір | Пхала | |-------------|--------|-------|--------|------------|------------|--------| | Кількість GPU | 5600 | 384 | 38177 | - | 40000+ | - | | Кількість ЦПУ | 114 | 14672 | 5433 | - | - | 30000+ | | Кількість H100/A100| - | 157 | 2330 | - | 2000+ | - | | Вартість H100/година | - | $1.46 | $1.19 | - | - | - | | Вартість A100/година | - | $1.37 | $1.50 | $0.55 ( прогнозується ) | $0.33 ( прогнозується ) | - |
! Перетин AI та DePIN
вимоги до високопродуктивних GPU
Навчання моделей ШІ потребує висококласних графічних процесорів, таких як Nvidia A100 та H100. Продуктивність H100 в інференції в 4 рази вища за A100, що робить його найкращим вибором, особливо для великих компаній.
Децентралізований ринок GPU повинен конкурувати з Web2, не лише пропонуючи низькі ціни, а й задовольняючи реальні потреби. У 2023 році Nvidia доставила 500 тисяч H100 великим технологічним компаніям, отримуючи відповідні витрати на апаратуру. Важливо враховувати, скільки апаратних засобів ці проекти можуть ввести за низькою ціною.
Кожен проект пропонує різну обчислювальну потужність. Akash має лише більше 150 H100 та A100, io.net і Aethir мають понад 2000. Попередньо навчений LLM зазвичай потребує від 248 до понад 2000 GPU кластерів, останні два проекти більше підходять для обчислень великих моделей.
Наразі вартість децентралізованих GPU послуг значно нижча, ніж централізованих. Gensyn та Aethir стверджують, що обладнання класу A100 коштує менше 1 долара за годину, але знадобиться час для перевірки.
Мережеве з'єднання GPU-кластерів, хоча і має велику кількість GPU та низьку вартість, обмежене за пам'яттю в порівнянні зі з'єднанням GPU через NVLink. NVLink підтримує безпосередню комунікацію між GPU, що підходить для моделей з великою кількістю параметрів та великими наборами даних.
Проте, децентралізована GPU-мережа все ще забезпечує потужні обчислювальні можливості та масштабованість для динамічних навантажень або користувачів, які потребують гнучкості, створюючи можливості для розробки більшої кількості AI-випадків.
надає споживчі GPU/CPU
ЦП також дуже важливий у навчанні моделей ШІ, використовується для попередньої обробки даних та управління пам'яттю. Споживчі графічні процесори можуть використовуватися для доопрацювання попередньо навчених моделей або для навчання малих масштабів.
Враховуючи, що понад 85% споживачів мають невикористані GPU, такі проекти, як Render, Akash та io.net, також обслуговують цю частину ринку. Це дозволяє їм зосередитися на масштабних обчисленнях, загальному маломасштабному рендерингу або на комбінації обох.
Висновок
Сфера DePIN в AI все ще є новою і стикається з викликами. Наприклад, io.net був звинувачений у фальсифікації кількості GPU, але потім вирішив цю проблему за допомогою доказу роботи.
Незважаючи на це, кількість завдань та обладнання, що виконуються в цих мережах, значно зросла, що підкреслює зростання попиту на альтернативи постачальникам Web2 хмар. Водночас різке збільшення постачальників обладнання свідчить про недостатнє використання пропозиції. Це підтверджує відповідність продуктів мережі AI DePIN ринку, ефективно вирішуючи виклики попиту та пропозиції.
Оглядаючи в майбутнє, ШІ має потенціал стати процвітаючим ринком в трильйон доларів, і ці розподілені мережі GPU відіграватимуть ключову роль у забезпеченні розробників економічно ефективними альтернативами обчислень. Постійно звужуючи розрив між попитом і пропозицією, ці мережі значно сприятимуть майбутньому ландшафту ШІ та обчислювальної інфраструктури.
! Перетин AI та DePIN
! Перетин AI та DePIN
! Перетин AI та DePIN
! Перетин AI та DePIN
! Перетин AI та DePIN