Вычислительная мощность: новая бизнес-модель эпохи больших моделей
С развитием крупных моделей искусственного интеллекта вычислительная мощность становится новой бизнес-моделью. Хотя нынешний бум «алхимии» крупных моделей может постепенно утихнуть, провайдеры вычислительной мощности должны заранее подготовиться и своевременно скорректировать стратегическое направление.
Недавно молодой человек, окончивший Туньхуа университет три года назад, обучил метеорологическую модель с параметрами в миллиарды. Эта модель использовала 40-летние данные о погоде по всему миру, на что ушло около 2 месяцев, и для предварительного обучения было использовано 200 графических процессоров. При учете стоимости аренды GPU по 7.8 юаней в час, только стоимость обучения этой специализированной модели может превысить 2 миллиона юаней. Если речь идет о тренировке универсальной модели, стоимость может возрасти в сто раз.
В настоящее время в Китае уже существует более 100 крупных моделей с 10 миллиардами параметров. Однако отрасль в целом сталкивается с нехваткой высококачественных графических процессоров и высокой стоимостью вычислительной мощности. Недостаток вычислительной мощности и финансирования стал самой непосредственной проблемой для многих компаний.
Недостаток высококлассных GPU стал общепризнанной проблемой в отрасли. В пиковые периоды цена одной видеокарты Nvidia A100 была раздута до 200-300 тысяч юаней, а месячная аренда сервера A100 также подскочила до 50-70 тысяч юаней. Тем не менее, все еще может быть невозможно получить чипы. Некоторые поставщики вычислительной мощности даже столкнулись с редкими случаями, когда поставщики нарушали свои обязательства.
Тем временем порог для обучения больших моделей не так легко преодолеть, как это рекламируется в отрасли. Обучение универсальной большой модели с масштабом в один миллиард параметров или больше может потребовать вложений в десятки миллиардов юаней. Без значительной финансовой поддержки трудно продолжать разработку больших моделей.
В условиях этой ситуации в отрасли в целом считают, что с учетом того, что рынок становится более рациональным, компании также будут соответственно корректировать свои стратегии и контролировать затраты. Некоторые компании исследуют инновационные методы для компенсации дефицита вычислительной мощности, такие как использование более качественных данных для повышения эффективности обучения, улучшение стабильности инфраструктуры, оптимизация распределения ресурсов и т.д. Также некоторые компании выбирают использование отечественных платформ вместо GPU от NVIDIA для обучения и вывода крупных моделей.
Вычислительная мощность уже в условиях рыночного спроса и технической итерации эволюционировала в новую модель услуги. Сервис вычислительной мощности основывается на разнообразной вычислительной мощности и, через сеть вычислительной мощности, предоставляет эффективное предложение вычислительной мощности. Он включает не только вычислительную мощность, но и интегрирует такие ресурсы, как хранение и сеть, для завершения доставки вычислительной мощности в формате API.
В вычислительной мощностью индустриальной цепочке, предприятия верхнего уровня предоставляют основные ресурсы вычислительной мощности, предприятия среднего уровня отвечают за производство и suministro вычислительной мощности, а предприятия нижнего уровня полагаются на услуги вычислительной мощности для разработки услуг с добавленной стоимостью. С учетом нормализации потребности больших моделей в высокопроизводительных вычислениях, услуги вычислительной мощности быстро формируют уникальную индустриальную цепочку и бизнес-модель.
В настоящее время основными моделями оплаты за услуги вычислительной мощности являются поминутная оплата и оплата на год/месяц. Отрасль также продвигает «интеграцию вычислений и сетей», поддерживая распределение вычислительных ресурсов между различными архитектурами, регионами и поставщиками услуг.
Несмотря на нынешний дефицит высококлассных графических процессоров и высокие затраты, это всего лишь временное явление. В долгосрочной перспективе вычислительная мощность как услуга является определенной тенденцией. Поставщикам вычислительных услуг необходимо заранее подготовиться и своевременно скорректировать стратегическое направление, когда рынок вернется к разумности.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
24 Лайков
Награда
24
8
Поделиться
комментарий
0/400
BottomMisser
· 07-25 07:54
Вычислительная мощность опять недостаточна? Наверное, хочется плакать.
Посмотреть ОригиналОтветить0
RetiredMiner
· 07-25 06:51
А это Вычислительная мощность ресурсов снова не хватает.
Посмотреть ОригиналОтветить0
ImpermanentLossFan
· 07-23 14:40
За два года потерять половину — не стоит и бегать.
Посмотреть ОригиналОтветить0
CoinBasedThinking
· 07-22 08:39
炒地皮都炒到 Вычислительная мощность来了
Посмотреть ОригиналОтветить0
TestnetNomad
· 07-22 08:39
Может ли сервис вычислительной мощности приносить деньги?
Посмотреть ОригиналОтветить0
Web3ProductManager
· 07-22 08:37
провожу несколько быстрых расчетов ROI... вычисление затрат, честно говоря, убьет большинство стартапов
Восход вычислительной мощности: новые бизнес-модели и вызовы в эпоху больших моделей
Вычислительная мощность: новая бизнес-модель эпохи больших моделей
С развитием крупных моделей искусственного интеллекта вычислительная мощность становится новой бизнес-моделью. Хотя нынешний бум «алхимии» крупных моделей может постепенно утихнуть, провайдеры вычислительной мощности должны заранее подготовиться и своевременно скорректировать стратегическое направление.
Недавно молодой человек, окончивший Туньхуа университет три года назад, обучил метеорологическую модель с параметрами в миллиарды. Эта модель использовала 40-летние данные о погоде по всему миру, на что ушло около 2 месяцев, и для предварительного обучения было использовано 200 графических процессоров. При учете стоимости аренды GPU по 7.8 юаней в час, только стоимость обучения этой специализированной модели может превысить 2 миллиона юаней. Если речь идет о тренировке универсальной модели, стоимость может возрасти в сто раз.
В настоящее время в Китае уже существует более 100 крупных моделей с 10 миллиардами параметров. Однако отрасль в целом сталкивается с нехваткой высококачественных графических процессоров и высокой стоимостью вычислительной мощности. Недостаток вычислительной мощности и финансирования стал самой непосредственной проблемой для многих компаний.
Недостаток высококлассных GPU стал общепризнанной проблемой в отрасли. В пиковые периоды цена одной видеокарты Nvidia A100 была раздута до 200-300 тысяч юаней, а месячная аренда сервера A100 также подскочила до 50-70 тысяч юаней. Тем не менее, все еще может быть невозможно получить чипы. Некоторые поставщики вычислительной мощности даже столкнулись с редкими случаями, когда поставщики нарушали свои обязательства.
Тем временем порог для обучения больших моделей не так легко преодолеть, как это рекламируется в отрасли. Обучение универсальной большой модели с масштабом в один миллиард параметров или больше может потребовать вложений в десятки миллиардов юаней. Без значительной финансовой поддержки трудно продолжать разработку больших моделей.
В условиях этой ситуации в отрасли в целом считают, что с учетом того, что рынок становится более рациональным, компании также будут соответственно корректировать свои стратегии и контролировать затраты. Некоторые компании исследуют инновационные методы для компенсации дефицита вычислительной мощности, такие как использование более качественных данных для повышения эффективности обучения, улучшение стабильности инфраструктуры, оптимизация распределения ресурсов и т.д. Также некоторые компании выбирают использование отечественных платформ вместо GPU от NVIDIA для обучения и вывода крупных моделей.
Вычислительная мощность уже в условиях рыночного спроса и технической итерации эволюционировала в новую модель услуги. Сервис вычислительной мощности основывается на разнообразной вычислительной мощности и, через сеть вычислительной мощности, предоставляет эффективное предложение вычислительной мощности. Он включает не только вычислительную мощность, но и интегрирует такие ресурсы, как хранение и сеть, для завершения доставки вычислительной мощности в формате API.
В вычислительной мощностью индустриальной цепочке, предприятия верхнего уровня предоставляют основные ресурсы вычислительной мощности, предприятия среднего уровня отвечают за производство и suministro вычислительной мощности, а предприятия нижнего уровня полагаются на услуги вычислительной мощности для разработки услуг с добавленной стоимостью. С учетом нормализации потребности больших моделей в высокопроизводительных вычислениях, услуги вычислительной мощности быстро формируют уникальную индустриальную цепочку и бизнес-модель.
В настоящее время основными моделями оплаты за услуги вычислительной мощности являются поминутная оплата и оплата на год/месяц. Отрасль также продвигает «интеграцию вычислений и сетей», поддерживая распределение вычислительных ресурсов между различными архитектурами, регионами и поставщиками услуг.
Несмотря на нынешний дефицит высококлассных графических процессоров и высокие затраты, это всего лишь временное явление. В долгосрочной перспективе вычислительная мощность как услуга является определенной тенденцией. Поставщикам вычислительных услуг необходимо заранее подготовиться и своевременно скорректировать стратегическое направление, когда рынок вернется к разумности.