算力服務新商機：大模型熱潮下的行業變革與挑戰

算力已成爲新興的商業模式，而大模型"煉丹"熱潮終將過去。算力服務商需要未雨綢繆,及時調整戰略方向。

一個氣象領域的垂直大模型訓練,使用了200張GPU卡進行爲期兩個月的預訓練,成本估計超過200萬元。若是訓練通用大模型,成本可能要翻百倍。目前中國已有超過百個10億參數規模的大模型,但行業面臨高端GPU短缺的難題。算力成本高企,缺乏算力和資金成爲行業最直接的挑戰。

高端GPU極度緊缺,價格飆升。一張英偉達A100最高被炒到二三十萬元,單臺A100服務器月租也漲到5-7萬元。即便如此,仍可能買不到芯片。某雲計算高管表示,盡管很多客戶需要高端GPU資源,但目前供給仍無法完全滿足廣泛的市場需求。

大模型訓練門檻並非想象中那麼低。沒有數十億資金投入,很難持續進行大模型研發。一位創業者形容,如果沒有數百億資金支撐,這條路很難走通。業內普遍認爲,隨着市場競爭加劇,企業會從狂熱回歸理性,調整策略控制成本。

面對算力短缺,各家都在積極應對。一些方法包括:使用更高質量的數據提升訓練效率;提升基礎架構能力實現穩定運行;優化算力卡資源調度;從雲計算架構過渡到超算架構;使用國產平台替代英偉達等。不過這些方法對一般企業而言都是巨大工程,很多算法團隊選擇專業算力服務商支持。

算力已成爲一種新的服務模式。算力服務是以多樣化算力爲基礎,通過算力網路連接,以有效供給算力爲目標的新興產業領域。它不僅包括算力,還統一封裝了存儲、網路等資源,以API等形式交付服務。

算力產業鏈上遊主要供應基礎資源如芯片、服務器等。中遊以雲服務商、新型算力服務提供商爲主,負責算力生產和供給。下遊則是依靠算力服務進行增值的行業用戶。與自建環境相比,使用算力服務在成本和技術上更具優勢。

按量計費和包年包月是當前主流的算力服務計費模式。部分服務商也在推進"算網一體化融合",支持跨架構、地域、服務商的資源調度。雲服務商也將算力服務作爲重要產品快速切入市場。

2022年中國算力總規模達180EFLOPS,位居全球第二,算力產業規模達1.8萬億元。大模型需求加速了算力產業發展。有觀點認爲,當前算力服務本質是一種新型"賣電"模式,只是部分服務商還需提供系統調試、軟件安裝等額外服務。

隨着大模型高性能計算需求常態化,算力服務正快速形成獨特的產業鏈和商業模式。目前高端GPU短缺、成本高企,誰能獲得芯片資源誰就能交付業務。但長期研究者並不着急,因爲短缺只是暫時的。

算力服務化是確定的趨勢。在大模型熱潮回歸理性、市場變化加快的情況下,算力服務商需要未雨綢繆,及時調整戰略以應對未來發展。