Обчислювальна потужність служба: нова бізнес-модель епохи великих моделей
З розвитком великих моделей штучного інтелекту обчислювальна потужність стала новою бізнес-моделлю. Хоча нинішній бум «варіння еліксирів» великих моделей може поступово вщухнути, постачальники обчислювальної потужності повинні заздалегідь підготуватися та своєчасно відкоригувати стратегічний напрям.
Нещодавно молодий випускник Цінхуа, який закінчив університет три роки тому, навчав модель метеорології з обсягом параметрів в мільйони. Ця модель використовувала 40-річні дані про погоду у всьому світі, на що пішло близько 2 місяців, і для попереднього навчання було використано 200 графічних процесорів (GPU). Якщо врахувати вартість оренди GPU у 7,8 юанів за годину, лише витрати на навчання цієї великої моделі в специфічній області можуть перевищити 2 мільйони юанів. Якщо мова йде про навчання універсальної великої моделі, витрати можуть зростати в сотні разів.
В Україні вже є понад 100 великих моделей з 10 мільярдами параметрів. Однак, галузь загалом стикається з браком висококласних GPU і високими витратами на обчислювальну потужність. Відсутність обчислювальної потужності та фінансування стали найпрямішими викликами, з якими стикаються багато підприємств.
Нестача висококласних GPU стала визнаною проблемою в галузі. У піковий період ціна на одну карту Nvidia A100 сягала 200-300 тисяч, а місячна орендна плата за один сервер A100 також зросла до 50-70 тисяч. Навіть так, все ще може бути неможливо отримати чіпи. Деякі постачальники обчислювальної потужності навіть зіткнулися з рідкісними випадками порушення зобов'язань постачальників.
Водночас, поріг навчання великих моделей не є таким простим для подолання, як це рекламує індустрія. Навчання універсальної великої моделі з обсягом параметрів у мільярд або більше може вимагати інвестицій у десятки мільярдів юанів. Без потужної фінансової підтримки важко постійно проводити дослідження та розробки великих моделей.
Стикаючись із цими обставинами, в галузі загалом вважають, що, оскільки ринок стає більш раціональним, компанії також відповідно коригуватимуть стратегії, контролюючи витрати. Деякі компанії досліджують інноваційні методи, щоб компенсувати недоліки обчислювальної потужності, такі як використання більш якісних даних для підвищення ефективності навчання, підвищення стабільності інфраструктури, оптимізація розподілу ресурсів тощо. Також є підприємства, які обирають використання вітчизняних платформ замість GPU від Nvidia для навчання та інфереції великих моделей.
Обчислювальна потужність вже в ринковому попиті та технологічній ітерації перетворилася на нову модель обслуговування. Послуги обчислювальної потужності базуються на різноманітній обчислювальній потужності, з'єднуючи через мережу обчислювальної потужності, забезпечуючи ефективну постачання обчислювальної потужності. Це не тільки включає обчислювальну потужність, але й інтегрує ресурси зберігання, мережі тощо, завершуючи постачання обчислювальної потужності у формі API.
У ланцюзі постачання обчислювальної потужності підприємства верхнього рівня надають базові ресурси обчислювальної потужності, підприємства середнього рівня відповідають за виробництво та постачання обчислювальної потужності, а підприємства нижнього рівня залежать від обчислювальних послуг для розробки послуг з доданою вартістю. З розвитком великих моделей та постійним зростанням попиту на високопродуктивні обчислення, обчислювальні послуги швидко формують унікальний ланцюг постачання та бізнес-модель.
Наразі, обчислювальна потужність на основі обсягу та підписка на рік або місяць є основними моделями оплати за послуги обчислювальної потужності. Галузь також просуває "інтеграцію обчислювальних мереж", що підтримує розподіл обчислювальних ресурсів через архітектури, регіони та постачальників послуг.
Хоча в даний час існує нестача високопродуктивних графічних процесорів і високі витрати, це лише тимчас現象. У довгостроковій перспективі обчислювальна потужність як послуга є певною тенденцією. Постачальники послуг обчислювальної потужності повинні заздалегідь підготуватися і своєчасно коригувати стратегічний напрямок, коли ринок повернеться до раціональності.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
19 лайків
Нагородити
19
6
Поділіться
Прокоментувати
0/400
ImpermanentLossFan
· 18год тому
Два роки втрачаєш половину, не варто і бігти.
Переглянути оригіналвідповісти на0
CoinBasedThinking
· 07-22 08:39
Торгівля землею вже дійшла до обчислювальної потужності.
Переглянути оригіналвідповісти на0
TestnetNomad
· 07-22 08:39
Чи може сервіс обчислювальної потужності заробляти гроші?
Переглянути оригіналвідповісти на0
Web3ProductManager
· 07-22 08:37
роблю кілька швидких розрахунків ROI... витрати, ймовірно, вб'ють більшість стартапів, якщо чесно
Обчислювальна потужність сервісів зростає: нові бізнес-моделі та виклики епохи великих моделей
Обчислювальна потужність служба: нова бізнес-модель епохи великих моделей
З розвитком великих моделей штучного інтелекту обчислювальна потужність стала новою бізнес-моделлю. Хоча нинішній бум «варіння еліксирів» великих моделей може поступово вщухнути, постачальники обчислювальної потужності повинні заздалегідь підготуватися та своєчасно відкоригувати стратегічний напрям.
Нещодавно молодий випускник Цінхуа, який закінчив університет три роки тому, навчав модель метеорології з обсягом параметрів в мільйони. Ця модель використовувала 40-річні дані про погоду у всьому світі, на що пішло близько 2 місяців, і для попереднього навчання було використано 200 графічних процесорів (GPU). Якщо врахувати вартість оренди GPU у 7,8 юанів за годину, лише витрати на навчання цієї великої моделі в специфічній області можуть перевищити 2 мільйони юанів. Якщо мова йде про навчання універсальної великої моделі, витрати можуть зростати в сотні разів.
В Україні вже є понад 100 великих моделей з 10 мільярдами параметрів. Однак, галузь загалом стикається з браком висококласних GPU і високими витратами на обчислювальну потужність. Відсутність обчислювальної потужності та фінансування стали найпрямішими викликами, з якими стикаються багато підприємств.
Нестача висококласних GPU стала визнаною проблемою в галузі. У піковий період ціна на одну карту Nvidia A100 сягала 200-300 тисяч, а місячна орендна плата за один сервер A100 також зросла до 50-70 тисяч. Навіть так, все ще може бути неможливо отримати чіпи. Деякі постачальники обчислювальної потужності навіть зіткнулися з рідкісними випадками порушення зобов'язань постачальників.
Водночас, поріг навчання великих моделей не є таким простим для подолання, як це рекламує індустрія. Навчання універсальної великої моделі з обсягом параметрів у мільярд або більше може вимагати інвестицій у десятки мільярдів юанів. Без потужної фінансової підтримки важко постійно проводити дослідження та розробки великих моделей.
Стикаючись із цими обставинами, в галузі загалом вважають, що, оскільки ринок стає більш раціональним, компанії також відповідно коригуватимуть стратегії, контролюючи витрати. Деякі компанії досліджують інноваційні методи, щоб компенсувати недоліки обчислювальної потужності, такі як використання більш якісних даних для підвищення ефективності навчання, підвищення стабільності інфраструктури, оптимізація розподілу ресурсів тощо. Також є підприємства, які обирають використання вітчизняних платформ замість GPU від Nvidia для навчання та інфереції великих моделей.
Обчислювальна потужність вже в ринковому попиті та технологічній ітерації перетворилася на нову модель обслуговування. Послуги обчислювальної потужності базуються на різноманітній обчислювальній потужності, з'єднуючи через мережу обчислювальної потужності, забезпечуючи ефективну постачання обчислювальної потужності. Це не тільки включає обчислювальну потужність, але й інтегрує ресурси зберігання, мережі тощо, завершуючи постачання обчислювальної потужності у формі API.
У ланцюзі постачання обчислювальної потужності підприємства верхнього рівня надають базові ресурси обчислювальної потужності, підприємства середнього рівня відповідають за виробництво та постачання обчислювальної потужності, а підприємства нижнього рівня залежать від обчислювальних послуг для розробки послуг з доданою вартістю. З розвитком великих моделей та постійним зростанням попиту на високопродуктивні обчислення, обчислювальні послуги швидко формують унікальний ланцюг постачання та бізнес-модель.
Наразі, обчислювальна потужність на основі обсягу та підписка на рік або місяць є основними моделями оплати за послуги обчислювальної потужності. Галузь також просуває "інтеграцію обчислювальних мереж", що підтримує розподіл обчислювальних ресурсів через архітектури, регіони та постачальників послуг.
Хоча в даний час існує нестача високопродуктивних графічних процесорів і високі витрати, це лише тимчас現象. У довгостроковій перспективі обчислювальна потужність як послуга є певною тенденцією. Постачальники послуг обчислювальної потужності повинні заздалегідь підготуватися і своєчасно коригувати стратегічний напрямок, коли ринок повернеться до раціональності.