Poder de computação serviços: um novo modelo de negócios na era dos grandes modelos
Com o rápido desenvolvimento dos grandes modelos de inteligência artificial, o poder de computação tornou-se um novo modelo de negócios emergente. Embora a atual onda de "refinamento" dos grandes modelos possa acabar por abrandar, os prestadores de serviços de poder de computação ainda precisam se preparar para o futuro e ajustar sua direção estratégica em tempo.
Recentemente, um jovem que se formou na Universidade Tsinghua há 3 anos treinou um grande modelo meteorológico com um número de parâmetros na casa das centenas de milhões. Este modelo utilizou dados meteorológicos globais de 40 anos, levando cerca de 2 meses e utilizando 200 placas de GPU para o pré-treinamento. Considerando o preço de aluguel de GPU de 7,8 yuan por hora, apenas o custo de treinamento deste grande modelo em um campo vertical pode ultrapassar 2 milhões de yuan. Se for um treinamento de um grande modelo genérico, o custo pode aumentar cem vezes.
Atualmente, a China já possui mais de 100 grandes modelos com uma escala de 10 bilhões de parâmetros. No entanto, a indústria enfrenta geralmente a escassez de GPUs de alta performance e os altos custos de poder de computação. A falta de poder de computação e financiamento se tornou o desafio mais direto enfrentado por muitas empresas.
A escassez de GPUs de alto desempenho tornou-se um problema reconhecido na indústria. Durante o pico, o preço de uma única unidade da NVIDIA A100 foi inflacionado para 200.000-300.000 yuan, e o aluguel mensal de um servidor A100 também disparou para 50.000-70.000 yuan. Mesmo assim, ainda pode ser impossível obter os chips. Alguns fornecedores de poder de computação até enfrentaram situações raras, como o incumprimento de contratos por parte dos fornecedores.
Ao mesmo tempo, a barreira de entrada para o treinamento de grandes modelos não é tão fácil de ultrapassar como a indústria promove. Treinar um grande modelo geral com uma escala de bilhões de parâmetros ou mais pode exigir um investimento de dezenas de milhões de yuans. Sem um forte apoio financeiro, é difícil continuar com a pesquisa e desenvolvimento de grandes modelos.
Diante dessa situação, a indústria em geral acredita que, à medida que o mercado se torna mais racional, as empresas também ajustarão suas estratégias e controlarão custos. Algumas empresas estão explorando métodos inovadores para compensar a falta de poder de computação, como usar dados de maior qualidade para aumentar a eficiência do treinamento, melhorar a estabilidade da infraestrutura e otimizar a alocação de recursos. Também há empresas que optam por usar plataformas nacionais em vez de GPUs da Nvidia para treinamento e inferência de grandes modelos.
O Poder de computação já evoluiu para um novo modelo de serviço no mercado, devido à demanda e à iteração tecnológica. O serviço de Poder de computação é baseado em uma diversidade de Poder de computação e, através da conexão em rede de Poder de computação, fornece uma oferta eficaz de Poder de computação. Ele não inclui apenas o Poder de computação, mas também integra recursos como armazenamento e rede, completando a entrega de Poder de computação em formas como API.
Na cadeia de produção de poder de computação, as empresas upstream fornecem recursos básicos de poder de computação, as empresas midstream são responsáveis pela produção e fornecimento de poder de computação, e as empresas downstream dependem de serviços de poder de computação para desenvolver serviços de valor agregado. Com a normalização da demanda por computação de alto desempenho pelos grandes modelos, os serviços de poder de computação estão rapidamente formando uma cadeia de produção e um modelo de negócios únicos.
Atualmente, a cobrança por uso e o pagamento anual ou mensal são os principais modelos de cobrança de serviços de poder de computação. A indústria também está promovendo a "integração da computação e da rede", apoiando a alocação de recursos de poder de computação entre diferentes arquiteturas, regiões e prestadores de serviços.
Apesar da escassez de GPUs de alta gama e dos altos custos atualmente, isso é apenas um fenômeno temporário. A longo prazo, o poder de computação como um serviço é uma tendência certa. Os provedores de serviços de poder de computação precisam se preparar, ajustando a direção estratégica no momento em que o mercado retornar à racionalidade.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
22 gostos
Recompensa
22
6
Partilhar
Comentar
0/400
ImpermanentLossFan
· 07-23 14:40
Perder metade em dois anos, tanto faz não correr.
Ver originalResponder0
CoinBasedThinking
· 07-22 08:39
Estão a negociar terrenos até o Poder de computação chegou.
Ver originalResponder0
TestnetNomad
· 07-22 08:39
O serviço de Poder de computação do fígado pode ganhar dinheiro?
Ver originalResponder0
Web3ProductManager
· 07-22 08:37
a fazer alguns cálculos rápidos de ROI... os custos vão matar a maioria das startups, para ser sincero
Poder de computação serviços surgem Novos modelos de negócios e desafios na era dos grandes modelos
Poder de computação serviços: um novo modelo de negócios na era dos grandes modelos
Com o rápido desenvolvimento dos grandes modelos de inteligência artificial, o poder de computação tornou-se um novo modelo de negócios emergente. Embora a atual onda de "refinamento" dos grandes modelos possa acabar por abrandar, os prestadores de serviços de poder de computação ainda precisam se preparar para o futuro e ajustar sua direção estratégica em tempo.
Recentemente, um jovem que se formou na Universidade Tsinghua há 3 anos treinou um grande modelo meteorológico com um número de parâmetros na casa das centenas de milhões. Este modelo utilizou dados meteorológicos globais de 40 anos, levando cerca de 2 meses e utilizando 200 placas de GPU para o pré-treinamento. Considerando o preço de aluguel de GPU de 7,8 yuan por hora, apenas o custo de treinamento deste grande modelo em um campo vertical pode ultrapassar 2 milhões de yuan. Se for um treinamento de um grande modelo genérico, o custo pode aumentar cem vezes.
Atualmente, a China já possui mais de 100 grandes modelos com uma escala de 10 bilhões de parâmetros. No entanto, a indústria enfrenta geralmente a escassez de GPUs de alta performance e os altos custos de poder de computação. A falta de poder de computação e financiamento se tornou o desafio mais direto enfrentado por muitas empresas.
A escassez de GPUs de alto desempenho tornou-se um problema reconhecido na indústria. Durante o pico, o preço de uma única unidade da NVIDIA A100 foi inflacionado para 200.000-300.000 yuan, e o aluguel mensal de um servidor A100 também disparou para 50.000-70.000 yuan. Mesmo assim, ainda pode ser impossível obter os chips. Alguns fornecedores de poder de computação até enfrentaram situações raras, como o incumprimento de contratos por parte dos fornecedores.
Ao mesmo tempo, a barreira de entrada para o treinamento de grandes modelos não é tão fácil de ultrapassar como a indústria promove. Treinar um grande modelo geral com uma escala de bilhões de parâmetros ou mais pode exigir um investimento de dezenas de milhões de yuans. Sem um forte apoio financeiro, é difícil continuar com a pesquisa e desenvolvimento de grandes modelos.
Diante dessa situação, a indústria em geral acredita que, à medida que o mercado se torna mais racional, as empresas também ajustarão suas estratégias e controlarão custos. Algumas empresas estão explorando métodos inovadores para compensar a falta de poder de computação, como usar dados de maior qualidade para aumentar a eficiência do treinamento, melhorar a estabilidade da infraestrutura e otimizar a alocação de recursos. Também há empresas que optam por usar plataformas nacionais em vez de GPUs da Nvidia para treinamento e inferência de grandes modelos.
O Poder de computação já evoluiu para um novo modelo de serviço no mercado, devido à demanda e à iteração tecnológica. O serviço de Poder de computação é baseado em uma diversidade de Poder de computação e, através da conexão em rede de Poder de computação, fornece uma oferta eficaz de Poder de computação. Ele não inclui apenas o Poder de computação, mas também integra recursos como armazenamento e rede, completando a entrega de Poder de computação em formas como API.
Na cadeia de produção de poder de computação, as empresas upstream fornecem recursos básicos de poder de computação, as empresas midstream são responsáveis pela produção e fornecimento de poder de computação, e as empresas downstream dependem de serviços de poder de computação para desenvolver serviços de valor agregado. Com a normalização da demanda por computação de alto desempenho pelos grandes modelos, os serviços de poder de computação estão rapidamente formando uma cadeia de produção e um modelo de negócios únicos.
Atualmente, a cobrança por uso e o pagamento anual ou mensal são os principais modelos de cobrança de serviços de poder de computação. A indústria também está promovendo a "integração da computação e da rede", apoiando a alocação de recursos de poder de computação entre diferentes arquiteturas, regiões e prestadores de serviços.
Apesar da escassez de GPUs de alta gama e dos altos custos atualmente, isso é apenas um fenômeno temporário. A longo prazo, o poder de computação como um serviço é uma tendência certa. Os provedores de serviços de poder de computação precisam se preparar, ajustando a direção estratégica no momento em que o mercado retornar à racionalidade.