算力服务新商机：大模型热潮下的行业变革与挑战

算力已成为新兴的商业模式，而大模型"炼丹"热潮终将过去。算力服务商需要未雨绸缪,及时调整战略方向。

一个气象领域的垂直大模型训练,使用了200张GPU卡进行为期两个月的预训练,成本估计超过200万元。若是训练通用大模型,成本可能要翻百倍。目前中国已有超过百个10亿参数规模的大模型,但行业面临高端GPU短缺的难题。算力成本高企,缺乏算力和资金成为行业最直接的挑战。

高端GPU极度紧缺,价格飙升。一张英伟达A100最高被炒到二三十万元,单台A100服务器月租也涨到5-7万元。即便如此,仍可能买不到芯片。某云计算高管表示,尽管很多客户需要高端GPU资源,但目前供给仍无法完全满足广泛的市场需求。

大模型训练门槛并非想象中那么低。没有数十亿资金投入,很难持续进行大模型研发。一位创业者形容,如果没有数百亿资金支撑,这条路很难走通。业内普遍认为,随着市场竞争加剧,企业会从狂热回归理性,调整策略控制成本。

面对算力短缺,各家都在积极应对。一些方法包括:使用更高质量的数据提升训练效率;提升基础架构能力实现稳定运行;优化算力卡资源调度;从云计算架构过渡到超算架构;使用国产平台替代英伟达等。不过这些方法对一般企业而言都是巨大工程,很多算法团队选择专业算力服务商支持。

算力已成为一种新的服务模式。算力服务是以多样化算力为基础,通过算力网络连接,以有效供给算力为目标的新兴产业领域。它不仅包括算力,还统一封装了存储、网络等资源,以API等形式交付服务。

算力产业链上游主要供应基础资源如芯片、服务器等。中游以云服务商、新型算力服务提供商为主,负责算力生产和供给。下游则是依靠算力服务进行增值的行业用户。与自建环境相比,使用算力服务在成本和技术上更具优势。

按量计费和包年包月是当前主流的算力服务计费模式。部分服务商也在推进"算网一体化融合",支持跨架构、地域、服务商的资源调度。云服务商也将算力服务作为重要产品快速切入市场。

2022年中国算力总规模达180EFLOPS,位居全球第二,算力产业规模达1.8万亿元。大模型需求加速了算力产业发展。有观点认为,当前算力服务本质是一种新型"卖电"模式,只是部分服务商还需提供系统调试、软件安装等额外服务。

随着大模型高性能计算需求常态化,算力服务正快速形成独特的产业链和商业模式。目前高端GPU短缺、成本高企,谁能获得芯片资源谁就能交付业务。但长期研究者并不着急,因为短缺只是暂时的。

算力服务化是确定的趋势。在大模型热潮回归理性、市场变化加快的情况下,算力服务商需要未雨绸缪,及时调整战略以应对未来发展。