Вычислительная мощность услуги: новая бизнес-модель в эру больших моделей
В эпоху, когда большие модели становятся популярной темой, нехватка вычислительной мощности становится одной из главных проблем, с которыми сталкивается отрасль. Высококачественные GPU трудно достать, цены взлетают, но даже так они не могут удовлетворить рыночный спрос. Некоторые поставщики вычислительной мощности даже сталкиваются с редкими случаями, когда поставщики отказываются выполнять свои обязательства.
Согласно статистике, в Китае в настоящее время существует более 100 крупных моделей с масштабом более 10 миллиардов параметров. Однако стоимость обучения одной крупной модели чрезвычайно высока. Например, для модели Пангу, использующейся для метеорологических прогнозов, стоимость обучения может превышать 2 миллиона юаней. Для более крупных универсальных моделей стоимость может возрасти в сотни раз. По словам специалистов отрасли, без инвестиций в десятки миллиардов трудно продолжать разработку крупных моделей.
Сталкиваясь с этой проблемой, компании активно ищут решения. Некоторые распространенные методы включают: использование более качественных данных для повышения эффективности обучения, оптимизацию инфраструктуры для обеспечения более стабильной работы, повышение возможностей распределения ресурсов и т.д. Некоторые компании также выбирают использование отечественных платформ вместо графических процессоров NVIDIA. Однако для большинства компаний выбор профессиональных Вычислительная мощность поставщиков услуг может быть более жизнеспособным решением.
На самом деле, вычислительная мощность постепенно развивается в новую модель обслуживания на рынке спроса и технологической итерации. Услуги вычислительной мощности основаны на разнообразной вычислительной мощности, связаны с вычислительной сетью и направлены на эффективное обеспечение вычислительной мощности как новую отрасль. Это не только включает в себя вычислительную мощность, но также охватывает унифицированную упаковку ресурсов, таких как хранение и сеть, с доставкой в форме API и других.
В цепочке вычислительной мощности верхние уровни в основном поставляют базовые ресурсы, такие как чипы, серверы и т.д. Средний уровень включает облачных провайдеров услуг, поставщиков вычислительных услуг и т.д., которые реализуют производство и поставку вычислительной мощности через технологии. Нижний уровень - это отраслевые пользователи, которые зависят от услуг вычислительной мощности для добавленной стоимости.
В настоящее время основными моделями оплаты за услуги вычислительной мощности являются оплата по объему и подписка на год или месяц. Пользователи могут выбрать соответствующий экземпляр услуги вычислительной мощности или провести отраслевую настройку больших моделей на платформе MaaS. Некоторые новые модели, такие как "интеграция вычислительной сети", также находятся в процессе продвижения, с целью реализации более гибкого распределения вычислительной мощности через архитектуры, регионы и провайдеров услуг.
С учетом нормализации потребностей больших моделей в высокопроизводительных вычислениях, услуги вычислительной мощности быстро формируют уникальную отраслевую цепочку и бизнес-модель. Хотя текущая нехватка высококлассных GPU и высокие затраты представляют собой вызов, в долгосрочной перспективе услуги вычислительной мощности являются определенной тенденцией. Для поставщиков услуг вычислительной мощности крайне важно быть готовыми к изменениям на рынке.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Новая синяя волна в эпоху больших моделей: возможности и вызовы для поставщиков вычислительной мощности
Вычислительная мощность услуги: новая бизнес-модель в эру больших моделей
В эпоху, когда большие модели становятся популярной темой, нехватка вычислительной мощности становится одной из главных проблем, с которыми сталкивается отрасль. Высококачественные GPU трудно достать, цены взлетают, но даже так они не могут удовлетворить рыночный спрос. Некоторые поставщики вычислительной мощности даже сталкиваются с редкими случаями, когда поставщики отказываются выполнять свои обязательства.
Согласно статистике, в Китае в настоящее время существует более 100 крупных моделей с масштабом более 10 миллиардов параметров. Однако стоимость обучения одной крупной модели чрезвычайно высока. Например, для модели Пангу, использующейся для метеорологических прогнозов, стоимость обучения может превышать 2 миллиона юаней. Для более крупных универсальных моделей стоимость может возрасти в сотни раз. По словам специалистов отрасли, без инвестиций в десятки миллиардов трудно продолжать разработку крупных моделей.
Сталкиваясь с этой проблемой, компании активно ищут решения. Некоторые распространенные методы включают: использование более качественных данных для повышения эффективности обучения, оптимизацию инфраструктуры для обеспечения более стабильной работы, повышение возможностей распределения ресурсов и т.д. Некоторые компании также выбирают использование отечественных платформ вместо графических процессоров NVIDIA. Однако для большинства компаний выбор профессиональных Вычислительная мощность поставщиков услуг может быть более жизнеспособным решением.
На самом деле, вычислительная мощность постепенно развивается в новую модель обслуживания на рынке спроса и технологической итерации. Услуги вычислительной мощности основаны на разнообразной вычислительной мощности, связаны с вычислительной сетью и направлены на эффективное обеспечение вычислительной мощности как новую отрасль. Это не только включает в себя вычислительную мощность, но также охватывает унифицированную упаковку ресурсов, таких как хранение и сеть, с доставкой в форме API и других.
В цепочке вычислительной мощности верхние уровни в основном поставляют базовые ресурсы, такие как чипы, серверы и т.д. Средний уровень включает облачных провайдеров услуг, поставщиков вычислительных услуг и т.д., которые реализуют производство и поставку вычислительной мощности через технологии. Нижний уровень - это отраслевые пользователи, которые зависят от услуг вычислительной мощности для добавленной стоимости.
В настоящее время основными моделями оплаты за услуги вычислительной мощности являются оплата по объему и подписка на год или месяц. Пользователи могут выбрать соответствующий экземпляр услуги вычислительной мощности или провести отраслевую настройку больших моделей на платформе MaaS. Некоторые новые модели, такие как "интеграция вычислительной сети", также находятся в процессе продвижения, с целью реализации более гибкого распределения вычислительной мощности через архитектуры, регионы и провайдеров услуг.
С учетом нормализации потребностей больших моделей в высокопроизводительных вычислениях, услуги вычислительной мощности быстро формируют уникальную отраслевую цепочку и бизнес-модель. Хотя текущая нехватка высококлассных GPU и высокие затраты представляют собой вызов, в долгосрочной перспективе услуги вычислительной мощности являются определенной тенденцией. Для поставщиков услуг вычислительной мощности крайне важно быть готовыми к изменениям на рынке.