Puissance de calcul Service : Un nouveau modèle commercial à l'ère des grands modèles
Avec le développement florissant des grands modèles d'intelligence artificielle, la puissance de calcul est devenue un nouveau modèle commercial émergent. Bien que la fièvre actuelle de "l'alchimie" des grands modèles puisse progressivement s'apaiser, les fournisseurs de services de puissance de calcul doivent se préparer à l'avance et ajuster leur stratégie en temps opportun.
Récemment, un jeune diplômé de l'Université Tsinghua ayant 3 ans d'expérience a formé un grand modèle météorologique avec des paramètres atteignant des centaines de millions. Ce modèle a utilisé 40 ans de données météorologiques mondiales, a pris environ 2 mois et a utilisé 200 cartes GPU pour le pré-entraînement. En se basant sur un coût de location de GPU de 7,8 yuan par heure, le coût d'entraînement de ce grand modèle dans ce domaine spécifique pourrait dépasser 2 millions de yuan. Si c'était pour entraîner un grand modèle général, le coût pourrait être multiplié par cent.
Actuellement, la Chine dispose de plus de 100 grands modèles de 10 milliards de paramètres. Cependant, l'industrie fait face à une pénurie générale de GPU haut de gamme et à des coûts de puissance de calcul élevés. Le manque de puissance de calcul et de financement constitue le défi le plus direct auquel de nombreuses entreprises sont confrontées.
La pénurie de GPU haut de gamme est devenue un problème reconnu dans l'industrie. À son apogée, le prix d'un seul Nvidia A100 a été gonflé à 200 000 - 300 000 yuans, et le loyer mensuel d'un serveur A100 a également grimpé à 50 000 - 70 000 yuans. Malgré cela, il se peut qu'il soit toujours impossible d'obtenir des puces. Certains fournisseurs de puissance de calcul ont même rencontré des situations rares telles que des manquements de contrat de la part des fournisseurs.
En attendant, le seuil d'entrée pour l'entraînement de grands modèles n'est pas aussi facile à franchir que ce que le secteur prétend. Entraîner un grand modèle général avec un milliard de paramètres ou plus pourrait nécessiter des investissements de plusieurs milliards de yuans. Sans un soutien financier solide, il est difficile de poursuivre le développement de grands modèles.
Face à cette situation, l'industrie considère généralement qu'avec un marché devenant plus rationnel, les entreprises ajusteront également leurs stratégies et contrôleront leurs coûts. Certaines entreprises explorent des méthodes innovantes pour compenser leur faiblesse en matière de Puissance de calcul, comme l'utilisation de données de meilleure qualité pour améliorer l'efficacité de l'entraînement, renforcer la stabilité de l'infrastructure, optimiser la planification des ressources, etc. D'autres entreprises choisissent d'utiliser des plateformes nationales pour remplacer les GPU NVIDIA pour l'entraînement et l'inférence de grands modèles.
La puissance de calcul a évolué vers un nouveau modèle de service en réponse à la demande du marché et à l'itération technologique. Le service de puissance de calcul repose sur une puissance de calcul diversifiée et, grâce à un réseau de puissance de calcul, fournit une offre efficace de puissance de calcul. Il inclut non seulement la puissance de calcul, mais intègre également des ressources telles que le stockage et le réseau, pour réaliser la livraison de puissance de calcul sous forme d'API, etc.
Dans la chaîne industrielle de la puissance de calcul, les entreprises en amont fournissent des ressources de calcul de base, les entreprises intermédiaires sont responsables de la production et de l'approvisionnement en puissance de calcul, tandis que les entreprises en aval comptent sur les services de puissance de calcul pour développer des services à valeur ajoutée. Avec la normalisation de la demande en calcul haute performance par les grands modèles, les services de puissance de calcul sont en train de former rapidement une chaîne industrielle et un modèle commercial uniques.
Actuellement, la facturation à la consommation et les abonnements annuels ou mensuels sont les modèles de facturation des services de puissance de calcul les plus courants. L'industrie promeut également l'"intégration de la puissance de calcul et du réseau", soutenant la planification des ressources de puissance de calcul à travers les architectures, les régions et les fournisseurs de services.
Bien que les GPU haut de gamme soient actuellement en pénurie et que les coûts soient élevés, ce n'est qu'un phénomène temporaire. À long terme, la puissance de calcul en tant que service est une tendance certaine. Les fournisseurs de services de puissance de calcul doivent anticiper et ajuster leur orientation stratégique en temps utile lorsque le marché revient à la rationalité.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
20 J'aime
Récompense
20
6
Partager
Commentaire
0/400
ImpermanentLossFan
· 07-23 14:40
Perdre la moitié en deux ans, autant ne pas courir.
Voir l'originalRépondre0
CoinBasedThinking
· 07-22 08:39
La spéculation immobilière a même atteint la puissance de calcul.
Voir l'originalRépondre0
TestnetNomad
· 07-22 08:39
Le service de puissance de calcul pour le foie peut-il rapporter de l'argent ?
Voir l'originalRépondre0
Web3ProductManager
· 07-22 08:37
faire quelques calculs de roi rapides... les coûts de calcul vont tuer la plupart des startups à vrai dire
Puissance de calcul services émergent : nouveaux modèles commerciaux et défis à l'ère des grands modèles.
Puissance de calcul Service : Un nouveau modèle commercial à l'ère des grands modèles
Avec le développement florissant des grands modèles d'intelligence artificielle, la puissance de calcul est devenue un nouveau modèle commercial émergent. Bien que la fièvre actuelle de "l'alchimie" des grands modèles puisse progressivement s'apaiser, les fournisseurs de services de puissance de calcul doivent se préparer à l'avance et ajuster leur stratégie en temps opportun.
Récemment, un jeune diplômé de l'Université Tsinghua ayant 3 ans d'expérience a formé un grand modèle météorologique avec des paramètres atteignant des centaines de millions. Ce modèle a utilisé 40 ans de données météorologiques mondiales, a pris environ 2 mois et a utilisé 200 cartes GPU pour le pré-entraînement. En se basant sur un coût de location de GPU de 7,8 yuan par heure, le coût d'entraînement de ce grand modèle dans ce domaine spécifique pourrait dépasser 2 millions de yuan. Si c'était pour entraîner un grand modèle général, le coût pourrait être multiplié par cent.
Actuellement, la Chine dispose de plus de 100 grands modèles de 10 milliards de paramètres. Cependant, l'industrie fait face à une pénurie générale de GPU haut de gamme et à des coûts de puissance de calcul élevés. Le manque de puissance de calcul et de financement constitue le défi le plus direct auquel de nombreuses entreprises sont confrontées.
La pénurie de GPU haut de gamme est devenue un problème reconnu dans l'industrie. À son apogée, le prix d'un seul Nvidia A100 a été gonflé à 200 000 - 300 000 yuans, et le loyer mensuel d'un serveur A100 a également grimpé à 50 000 - 70 000 yuans. Malgré cela, il se peut qu'il soit toujours impossible d'obtenir des puces. Certains fournisseurs de puissance de calcul ont même rencontré des situations rares telles que des manquements de contrat de la part des fournisseurs.
En attendant, le seuil d'entrée pour l'entraînement de grands modèles n'est pas aussi facile à franchir que ce que le secteur prétend. Entraîner un grand modèle général avec un milliard de paramètres ou plus pourrait nécessiter des investissements de plusieurs milliards de yuans. Sans un soutien financier solide, il est difficile de poursuivre le développement de grands modèles.
Face à cette situation, l'industrie considère généralement qu'avec un marché devenant plus rationnel, les entreprises ajusteront également leurs stratégies et contrôleront leurs coûts. Certaines entreprises explorent des méthodes innovantes pour compenser leur faiblesse en matière de Puissance de calcul, comme l'utilisation de données de meilleure qualité pour améliorer l'efficacité de l'entraînement, renforcer la stabilité de l'infrastructure, optimiser la planification des ressources, etc. D'autres entreprises choisissent d'utiliser des plateformes nationales pour remplacer les GPU NVIDIA pour l'entraînement et l'inférence de grands modèles.
La puissance de calcul a évolué vers un nouveau modèle de service en réponse à la demande du marché et à l'itération technologique. Le service de puissance de calcul repose sur une puissance de calcul diversifiée et, grâce à un réseau de puissance de calcul, fournit une offre efficace de puissance de calcul. Il inclut non seulement la puissance de calcul, mais intègre également des ressources telles que le stockage et le réseau, pour réaliser la livraison de puissance de calcul sous forme d'API, etc.
Dans la chaîne industrielle de la puissance de calcul, les entreprises en amont fournissent des ressources de calcul de base, les entreprises intermédiaires sont responsables de la production et de l'approvisionnement en puissance de calcul, tandis que les entreprises en aval comptent sur les services de puissance de calcul pour développer des services à valeur ajoutée. Avec la normalisation de la demande en calcul haute performance par les grands modèles, les services de puissance de calcul sont en train de former rapidement une chaîne industrielle et un modèle commercial uniques.
Actuellement, la facturation à la consommation et les abonnements annuels ou mensuels sont les modèles de facturation des services de puissance de calcul les plus courants. L'industrie promeut également l'"intégration de la puissance de calcul et du réseau", soutenant la planification des ressources de puissance de calcul à travers les architectures, les régions et les fournisseurs de services.
Bien que les GPU haut de gamme soient actuellement en pénurie et que les coûts soient élevés, ce n'est qu'un phénomène temporaire. À long terme, la puissance de calcul en tant que service est une tendance certaine. Les fournisseurs de services de puissance de calcul doivent anticiper et ajuster leur orientation stratégique en temps utile lorsque le marché revient à la rationalité.