O poder de computação tornou-se um novo modelo de negócio, e a tendência do "refinamento de grandes modelos" eventualmente passará. Os provedores de serviços de poder de computação precisam se preparar com antecedência e ajustar sua direção estratégica a tempo.
Um grande modelo vertical de treinamento na área de meteorologia utilizou 200 placas GPU durante dois meses de pré-treinamento, com um custo estimado de mais de 2 milhões de yuanes. Se fosse um treinamento de um grande modelo genérico, o custo poderia aumentar cem vezes. Atualmente, a China já possui mais de cem grandes modelos com escala de 10 bilhões de parâmetros, mas a indústria enfrenta o problema da escassez de GPUs de alta performance. O custo do poder de computação é elevado, e a falta de poder de computação e financiamento se tornou o desafio mais direto da indústria.
Os GPUs de alta gama estão extremamente escassos, e os preços dispararam. Uma placa NVIDIA A100 foi leiloada por até duzentas a trezentas mil yuan, e o aluguel mensal de um servidor A100 também subiu para 50-70 mil yuan. Mesmo assim, ainda pode ser difícil encontrar chips. Um executivo de uma empresa de computação em nuvem afirmou que, apesar de muitos clientes precisarem de recursos de GPU de alta gama, a oferta atual ainda não consegue satisfazer completamente a ampla demanda do mercado.
O limiar de treinamento de grandes modelos não é tão baixo quanto se imagina. Sem um investimento de bilhões, é difícil continuar o desenvolvimento de grandes modelos. Um empreendedor descreveu que, sem o suporte de centenas de bilhões, é difícil percorrer esse caminho. É amplamente acreditado na indústria que, à medida que a concorrência de mercado aumenta, as empresas voltarão à racionalidade a partir do entusiasmo, ajustando suas estratégias para controlar custos.
Diante da escassez de poder de computação, as empresas estão respondendo ativamente. Algumas das abordagens incluem: usar dados de maior qualidade para aumentar a eficiência do treinamento; melhorar a capacidade da infraestrutura para garantir uma operação estável; otimizar o agendamento de recursos de poder de computação; transitar da arquitetura de computação em nuvem para a arquitetura de supercomputação; utilizar plataformas nacionais em vez de Nvidia, entre outros. No entanto, essas abordagens representam um grande projeto para empresas comuns, e muitas equipes de algoritmos optam por apoiar-se em prestadores de serviços de poder de computação especializados.
O Poder de computação tornou-se um novo modelo de serviço. O serviço de Poder de computação é um campo emergente da indústria que se baseia em uma diversidade de Poder de computação, conectando-se através de uma rede de Poder de computação, com o objetivo de fornecer Poder de computação de forma eficaz. Ele não inclui apenas Poder de computação, mas também encapsula recursos como armazenamento e rede, fornecendo serviços na forma de API e outros.
A cadeia industrial de poder de computação a montante fornece principalmente recursos básicos como chips, servidores, etc. A média é dominada por provedores de serviços em nuvem e novos provedores de serviços de poder de computação, responsáveis pela produção e fornecimento de poder de computação. A jusante estão os usuários da indústria que dependem dos serviços de poder de computação para agregar valor. Em comparação com ambientes construídos internamente, o uso de serviços de poder de computação oferece vantagens em termos de custo e tecnologia.
A cobrança por uso e a assinatura anual/mensal são os modelos de cobrança de serviços de poder de computação mais comuns atualmente. Alguns prestadores de serviços também estão promovendo a "integração e fusão de computação e rede", apoiando a alocação de recursos entre diferentes arquiteturas, regiões e prestadores de serviços. Os provedores de serviços em nuvem também estão posicionando os serviços de poder de computação como um produto importante para entrar rapidamente no mercado.
Em 2022, a escala total de poder de computação da China atingiu 180 EFLOPS, ocupando a segunda posição global, com a escala da indústria de poder de computação alcançando 1,8 trilhões de yuan. A demanda por grandes modelos acelerou o desenvolvimento da indústria de poder de computação. Há quem defenda que, atualmente, o serviço de poder de computação é essencialmente um novo modelo de "venda de eletricidade", com apenas alguns prestadores de serviços precisando oferecer serviços adicionais como ajuste de sistema e instalação de software.
Com a normalização da demanda por computação de alto desempenho de modelos grandes, os serviços de poder de computação estão rapidamente formando uma cadeia industrial e um modelo de negócios únicos. Atualmente, há escassez de GPUs de alta performance e os custos estão elevados; quem conseguir obter recursos de chips poderá entregar serviços. Mas os pesquisadores de longo prazo não estão preocupados, pois a escassez é apenas temporária.
A serviços de poder de computação é uma tendência certa. Com o retorno à racionalidade do entusiasmo pelos grandes modelos e a aceleração das mudanças no mercado, os fornecedores de poder de computação precisam se preparar de antemão e ajustar suas estratégias a tempo para enfrentar o desenvolvimento futuro.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
14 Curtidas
Recompensa
14
5
Repostar
Compartilhar
Comentário
0/400
liquidation_surfer
· 07-27 14:39
Mesmo que suba a preços exorbitantes, ainda assim se perde!
Ver originalResponder0
SerumSqueezer
· 07-25 08:05
Fritar até voar, o período mais forte de fazer as pessoas de parvas.
Ver originalResponder0
AlphaBrain
· 07-25 00:54
Finalmente está superaquecido
Ver originalResponder0
ser_we_are_ngmi
· 07-25 00:48
完犊子了 Poder de computação esta onda vai Grande subida
Poder de computação serviços novas oportunidades de negócios: transformações e desafios da indústria na era da grande modelo.
O poder de computação tornou-se um novo modelo de negócio, e a tendência do "refinamento de grandes modelos" eventualmente passará. Os provedores de serviços de poder de computação precisam se preparar com antecedência e ajustar sua direção estratégica a tempo.
Um grande modelo vertical de treinamento na área de meteorologia utilizou 200 placas GPU durante dois meses de pré-treinamento, com um custo estimado de mais de 2 milhões de yuanes. Se fosse um treinamento de um grande modelo genérico, o custo poderia aumentar cem vezes. Atualmente, a China já possui mais de cem grandes modelos com escala de 10 bilhões de parâmetros, mas a indústria enfrenta o problema da escassez de GPUs de alta performance. O custo do poder de computação é elevado, e a falta de poder de computação e financiamento se tornou o desafio mais direto da indústria.
Os GPUs de alta gama estão extremamente escassos, e os preços dispararam. Uma placa NVIDIA A100 foi leiloada por até duzentas a trezentas mil yuan, e o aluguel mensal de um servidor A100 também subiu para 50-70 mil yuan. Mesmo assim, ainda pode ser difícil encontrar chips. Um executivo de uma empresa de computação em nuvem afirmou que, apesar de muitos clientes precisarem de recursos de GPU de alta gama, a oferta atual ainda não consegue satisfazer completamente a ampla demanda do mercado.
O limiar de treinamento de grandes modelos não é tão baixo quanto se imagina. Sem um investimento de bilhões, é difícil continuar o desenvolvimento de grandes modelos. Um empreendedor descreveu que, sem o suporte de centenas de bilhões, é difícil percorrer esse caminho. É amplamente acreditado na indústria que, à medida que a concorrência de mercado aumenta, as empresas voltarão à racionalidade a partir do entusiasmo, ajustando suas estratégias para controlar custos.
Diante da escassez de poder de computação, as empresas estão respondendo ativamente. Algumas das abordagens incluem: usar dados de maior qualidade para aumentar a eficiência do treinamento; melhorar a capacidade da infraestrutura para garantir uma operação estável; otimizar o agendamento de recursos de poder de computação; transitar da arquitetura de computação em nuvem para a arquitetura de supercomputação; utilizar plataformas nacionais em vez de Nvidia, entre outros. No entanto, essas abordagens representam um grande projeto para empresas comuns, e muitas equipes de algoritmos optam por apoiar-se em prestadores de serviços de poder de computação especializados.
O Poder de computação tornou-se um novo modelo de serviço. O serviço de Poder de computação é um campo emergente da indústria que se baseia em uma diversidade de Poder de computação, conectando-se através de uma rede de Poder de computação, com o objetivo de fornecer Poder de computação de forma eficaz. Ele não inclui apenas Poder de computação, mas também encapsula recursos como armazenamento e rede, fornecendo serviços na forma de API e outros.
A cadeia industrial de poder de computação a montante fornece principalmente recursos básicos como chips, servidores, etc. A média é dominada por provedores de serviços em nuvem e novos provedores de serviços de poder de computação, responsáveis pela produção e fornecimento de poder de computação. A jusante estão os usuários da indústria que dependem dos serviços de poder de computação para agregar valor. Em comparação com ambientes construídos internamente, o uso de serviços de poder de computação oferece vantagens em termos de custo e tecnologia.
A cobrança por uso e a assinatura anual/mensal são os modelos de cobrança de serviços de poder de computação mais comuns atualmente. Alguns prestadores de serviços também estão promovendo a "integração e fusão de computação e rede", apoiando a alocação de recursos entre diferentes arquiteturas, regiões e prestadores de serviços. Os provedores de serviços em nuvem também estão posicionando os serviços de poder de computação como um produto importante para entrar rapidamente no mercado.
Em 2022, a escala total de poder de computação da China atingiu 180 EFLOPS, ocupando a segunda posição global, com a escala da indústria de poder de computação alcançando 1,8 trilhões de yuan. A demanda por grandes modelos acelerou o desenvolvimento da indústria de poder de computação. Há quem defenda que, atualmente, o serviço de poder de computação é essencialmente um novo modelo de "venda de eletricidade", com apenas alguns prestadores de serviços precisando oferecer serviços adicionais como ajuste de sistema e instalação de software.
Com a normalização da demanda por computação de alto desempenho de modelos grandes, os serviços de poder de computação estão rapidamente formando uma cadeia industrial e um modelo de negócios únicos. Atualmente, há escassez de GPUs de alta performance e os custos estão elevados; quem conseguir obter recursos de chips poderá entregar serviços. Mas os pesquisadores de longo prazo não estão preocupados, pois a escassez é apenas temporária.
A serviços de poder de computação é uma tendência certa. Com o retorno à racionalidade do entusiasmo pelos grandes modelos e a aceleração das mudanças no mercado, os fornecedores de poder de computação precisam se preparar de antemão e ajustar suas estratégias a tempo para enfrentar o desenvolvimento futuro.