La puissance de calcul est devenue un nouveau modèle commercial émergent, et la frénésie des grands modèles de "炼丹" finira par s'estomper. Les fournisseurs de services de puissance de calcul doivent anticiper et ajuster leur stratégie en temps opportun.
Un entraînement de grand modèle vertical dans le domaine météorologique, utilisant 200 cartes GPU pour une pré-formation de deux mois, dont le coût est estimé à plus de 2 millions de yuans. Si c'est pour entraîner un grand modèle général, le coût pourrait être multiplié par cent. Actuellement, la Chine compte plus de cent grands modèles de plus de 1 milliard de paramètres, mais le secteur est confronté à un problème de pénurie de GPU haut de gamme. Les coûts de Puissance de calcul sont élevés, et le manque de Puissance de calcul et de fonds représente le défi le plus direct pour l'industrie.
Les GPU haut de gamme sont extrêmement rares, et les prix flambent. Un NVIDIA A100 a été vendu jusqu'à 200 000 à 300 000 yuans, et le loyer mensuel d'un serveur A100 a également augmenté à 50 000-70 000 yuans. Malgré cela, il est encore possible de ne pas pouvoir acheter de puces. Un cadre supérieur d'un fournisseur de cloud computing a déclaré que, bien que de nombreux clients aient besoin de ressources GPU haut de gamme, l'offre actuelle ne peut toujours pas satisfaire pleinement la demande du marché.
Le seuil d'entrée pour l'entraînement de grands modèles n'est pas aussi bas qu'on pourrait l'imaginer. Sans un investissement de plusieurs milliards, il est difficile de poursuivre le développement de grands modèles. Un entrepreneur a décrit que sans le soutien de plusieurs centaines de milliards, il est difficile de réussir sur ce chemin. Dans l'industrie, on pense généralement qu'avec l'intensification de la concurrence sur le marché, les entreprises reviendront à la rationalité après l'engouement, ajusteront leurs stratégies et contrôleront les coûts.
Face à la pénurie de puissance de calcul, les entreprises s'efforcent d'y faire face. Certaines méthodes incluent : utiliser des données de meilleure qualité pour améliorer l'efficacité de l'entraînement ; améliorer la capacité d'infrastructure pour assurer un fonctionnement stable ; optimiser la planification des ressources de puissance de calcul ; passer d'une architecture de cloud computing à une architecture de supercalcul ; utiliser des plateformes nationales pour remplacer Nvidia, etc. Cependant, ces méthodes représentent un énorme projet pour les entreprises ordinaires, et de nombreuses équipes d'algorithmes choisissent de faire appel à des fournisseurs de services de puissance de calcul professionnels.
La puissance de calcul est devenue un nouveau modèle de service. Le service de puissance de calcul est un domaine industriel émergent basé sur une puissance de calcul diversifiée, visant à fournir efficacement de la puissance de calcul grâce à un réseau de puissance de calcul. Il comprend non seulement la puissance de calcul, mais encapsule également des ressources telles que le stockage et le réseau, livrées sous forme de services via des API.
La chaîne industrielle de la puissance de calcul se compose principalement de fournisseurs de ressources de base telles que des puces et des serveurs en amont. Le milieu de la chaîne est dominé par les fournisseurs de services cloud et les nouveaux fournisseurs de services de puissance de calcul, responsables de la production et de l'approvisionnement en puissance de calcul. En aval, ce sont les utilisateurs industriels qui s'appuient sur les services de puissance de calcul pour créer de la valeur ajoutée. Comparé à un environnement construit en interne, l'utilisation des services de puissance de calcul présente des avantages en termes de coûts et de technologie.
La facturation à la consommation et l'abonnement annuel ou mensuel sont les principaux modèles de facturation des services de puissance de calcul actuels. Certains fournisseurs de services avancent également vers une "intégration de calcul et de réseau", soutenant la planification des ressources à travers les architectures, les régions et les fournisseurs de services. Les fournisseurs de services cloud considèrent également les services de puissance de calcul comme un produit important pour pénétrer rapidement le marché.
En 2022, la puissance de calcul totale de la Chine a atteint 180 EFLOPS, se classant au deuxième rang mondial, et la taille de l'industrie de la puissance de calcul a atteint 1,8 billion de yuans. La demande pour les grands modèles a accéléré le développement de l'industrie de la puissance de calcul. Certains estiment que le service de puissance de calcul actuel est en réalité un nouveau modèle de "vente d'électricité", bien que certains fournisseurs de services doivent encore offrir des services supplémentaires tels que le réglage du système et l'installation de logiciels.
Avec la normalisation de la demande de calcul haute performance des grands modèles, les services de puissance de calcul se forment rapidement en une chaîne industrielle et un modèle commercial uniques. Actuellement, il y a une pénurie de GPU haut de gamme et des coûts élevés, ceux qui peuvent obtenir des ressources de puce peuvent réaliser des affaires. Mais les chercheurs à long terme ne s'inquiètent pas, car la pénurie n'est que temporaire.
La service de puissance de calcul est une tendance certaine. Dans le contexte du retour à la rationalité de l'engouement pour les grands modèles et d'un marché en évolution rapide, les fournisseurs de puissance de calcul doivent anticiper et ajuster rapidement leur stratégie pour faire face au développement futur.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
14 J'aime
Récompense
14
5
Reposter
Partager
Commentaire
0/400
liquidation_surfer
· 07-27 14:39
Même à un prix exorbitant, cela reste une perte !
Voir l'originalRépondre0
SerumSqueezer
· 07-25 08:05
Faire sauter à fond, c'est la période la plus forte pour prendre les gens pour des idiots.
Voir l'originalRépondre0
AlphaBrain
· 07-25 00:54
Enfin, ça chauffe !
Voir l'originalRépondre0
ser_we_are_ngmi
· 07-25 00:48
C'est fini, la puissance de calcul va encore connaître une big pump.
Puissance de calcul services nouvelles opportunités : transformations et défis du secteur sous la vague des grands modèles
La puissance de calcul est devenue un nouveau modèle commercial émergent, et la frénésie des grands modèles de "炼丹" finira par s'estomper. Les fournisseurs de services de puissance de calcul doivent anticiper et ajuster leur stratégie en temps opportun.
Un entraînement de grand modèle vertical dans le domaine météorologique, utilisant 200 cartes GPU pour une pré-formation de deux mois, dont le coût est estimé à plus de 2 millions de yuans. Si c'est pour entraîner un grand modèle général, le coût pourrait être multiplié par cent. Actuellement, la Chine compte plus de cent grands modèles de plus de 1 milliard de paramètres, mais le secteur est confronté à un problème de pénurie de GPU haut de gamme. Les coûts de Puissance de calcul sont élevés, et le manque de Puissance de calcul et de fonds représente le défi le plus direct pour l'industrie.
Les GPU haut de gamme sont extrêmement rares, et les prix flambent. Un NVIDIA A100 a été vendu jusqu'à 200 000 à 300 000 yuans, et le loyer mensuel d'un serveur A100 a également augmenté à 50 000-70 000 yuans. Malgré cela, il est encore possible de ne pas pouvoir acheter de puces. Un cadre supérieur d'un fournisseur de cloud computing a déclaré que, bien que de nombreux clients aient besoin de ressources GPU haut de gamme, l'offre actuelle ne peut toujours pas satisfaire pleinement la demande du marché.
Le seuil d'entrée pour l'entraînement de grands modèles n'est pas aussi bas qu'on pourrait l'imaginer. Sans un investissement de plusieurs milliards, il est difficile de poursuivre le développement de grands modèles. Un entrepreneur a décrit que sans le soutien de plusieurs centaines de milliards, il est difficile de réussir sur ce chemin. Dans l'industrie, on pense généralement qu'avec l'intensification de la concurrence sur le marché, les entreprises reviendront à la rationalité après l'engouement, ajusteront leurs stratégies et contrôleront les coûts.
Face à la pénurie de puissance de calcul, les entreprises s'efforcent d'y faire face. Certaines méthodes incluent : utiliser des données de meilleure qualité pour améliorer l'efficacité de l'entraînement ; améliorer la capacité d'infrastructure pour assurer un fonctionnement stable ; optimiser la planification des ressources de puissance de calcul ; passer d'une architecture de cloud computing à une architecture de supercalcul ; utiliser des plateformes nationales pour remplacer Nvidia, etc. Cependant, ces méthodes représentent un énorme projet pour les entreprises ordinaires, et de nombreuses équipes d'algorithmes choisissent de faire appel à des fournisseurs de services de puissance de calcul professionnels.
La puissance de calcul est devenue un nouveau modèle de service. Le service de puissance de calcul est un domaine industriel émergent basé sur une puissance de calcul diversifiée, visant à fournir efficacement de la puissance de calcul grâce à un réseau de puissance de calcul. Il comprend non seulement la puissance de calcul, mais encapsule également des ressources telles que le stockage et le réseau, livrées sous forme de services via des API.
La chaîne industrielle de la puissance de calcul se compose principalement de fournisseurs de ressources de base telles que des puces et des serveurs en amont. Le milieu de la chaîne est dominé par les fournisseurs de services cloud et les nouveaux fournisseurs de services de puissance de calcul, responsables de la production et de l'approvisionnement en puissance de calcul. En aval, ce sont les utilisateurs industriels qui s'appuient sur les services de puissance de calcul pour créer de la valeur ajoutée. Comparé à un environnement construit en interne, l'utilisation des services de puissance de calcul présente des avantages en termes de coûts et de technologie.
La facturation à la consommation et l'abonnement annuel ou mensuel sont les principaux modèles de facturation des services de puissance de calcul actuels. Certains fournisseurs de services avancent également vers une "intégration de calcul et de réseau", soutenant la planification des ressources à travers les architectures, les régions et les fournisseurs de services. Les fournisseurs de services cloud considèrent également les services de puissance de calcul comme un produit important pour pénétrer rapidement le marché.
En 2022, la puissance de calcul totale de la Chine a atteint 180 EFLOPS, se classant au deuxième rang mondial, et la taille de l'industrie de la puissance de calcul a atteint 1,8 billion de yuans. La demande pour les grands modèles a accéléré le développement de l'industrie de la puissance de calcul. Certains estiment que le service de puissance de calcul actuel est en réalité un nouveau modèle de "vente d'électricité", bien que certains fournisseurs de services doivent encore offrir des services supplémentaires tels que le réglage du système et l'installation de logiciels.
Avec la normalisation de la demande de calcul haute performance des grands modèles, les services de puissance de calcul se forment rapidement en une chaîne industrielle et un modèle commercial uniques. Actuellement, il y a une pénurie de GPU haut de gamme et des coûts élevés, ceux qui peuvent obtenir des ressources de puce peuvent réaliser des affaires. Mais les chercheurs à long terme ne s'inquiètent pas, car la pénurie n'est que temporaire.
La service de puissance de calcul est une tendance certaine. Dans le contexte du retour à la rationalité de l'engouement pour les grands modèles et d'un marché en évolution rapide, les fournisseurs de puissance de calcul doivent anticiper et ajuster rapidement leur stratégie pour faire face au développement futur.