Обчислювальна потужність служби нових можливостей: промислові трансформації та виклики під час буму великих моделей

Обчислювальна потужність стала новою комерційною моделлю, а гарячка "перетворення" великих моделей зрештою мине. Постачальники обчислювальної потужності повинні заздалегідь підготуватися та вчасно скоригувати стратегічний напрямок.

Тренування вертикальної великої моделі в галузі метеорології використовувало 200 графічних процесорів протягом двох місяців попереднього навчання, вартість якого оцінюється більш ніж у 2 мільйони юанів. Якщо тренувати загальну велику модель, вартість може зрости в сотні разів. Наразі в Китаї вже є понад сотні великих моделей з 10 мільярдами параметрів, але галузь стикається з проблемою нестачі висококласних графічних процесорів. Високі витрати на обчислювальну потужність, нестача обчислювальної потужності та фінансів стали найпрямішими викликами для галузі.

Висококласні GPU надзвичайно дефіцитні, ціни стрімко зросли. Одна карта NVIDIA A100 досягає 200-300 тисяч юанів, а місячна оренда одного сервера A100 також зросла до 50-70 тисяч юанів. Навіть так, все ще може бути важко придбати чіпи. Один з керівників хмарних обчислень зазначив, що незважаючи на те, що багато клієнтів потребують висококласних ресурсів GPU, наразі постачання все ще не може повністю задовольнити широкий ринок.

Поріг для навчання великих моделей не такий низький, як уявляється. Без інвестицій у десятки мільярдів важко продовжувати розробку великих моделей. Один підприємець описав, що без підтримки у кілька сотень мільярдів цей шлях важко пройти. В галузі загалом вважають, що з посиленням конкуренції на ринку підприємства повернуться до раціональності з безумства, коригуючи стратегії для контролю витрат.

Стикаючись з нестачею обчислювальної потужності, компанії активно реагують на цю ситуацію. Деякі методи включають: використання більш якісних даних для підвищення ефективності навчання; підвищення можливостей інфраструктури для забезпечення стабільної роботи; оптимізація розподілу ресурсів обчислювальної потужності; перехід від хмарної архітектури до суперкомп'ютерної архітектури; використання вітчизняних платформ замість Nvidia та інших. Однак ці методи є величезними проектами для звичайних компаній, і багато алгоритмічних команд обирають підтримку професійних постачальників обчислювальної потужності.

Обчислювальна потужність стала новою моделлю послуг. Послуги обчислювальної потужності базуються на різноманітній обчислювальній потужності, з'єднаній через мережу обчислювальної потужності, і є новою галуззю промисловості з метою ефективного постачання обчислювальної потужності. Це не тільки включає обчислювальну потужність, але й об'єднує ресурси зберігання, мережі тощо, доставляючи послуги у формі API.

Обчислювальна потужність промислового ланцюга в upstream в основному постачає базові ресурси, такі як чіпи, сервери тощо. У середньому сегменті переважають постачальники хмарних послуг та нові постачальники обчислювальної потужності, які відповідають за виробництво та постачання обчислювальної потужності. Downstream - це галузеві користувачі, які отримують додану вартість за рахунок обчислювальних послуг. У порівнянні з самостійно збудованим середовищем, використання обчислювальних послуг має переваги в плані витрат і технологій.

Оплата за використання та підписка на рік або місяць є нинішніми основними моделями оплати за обчислювальну потужність. Деякі постачальники послуг також просувають "інтеграцію обчислювальної мережі", підтримуючи розподіл ресурсів між різними архітектурами, регіонами та постачальниками послуг. Хмарні постачальники послуг також швидко виходять на ринок, пропонуючи обчислювальну потужність як важливий продукт.

У 2022 році загальний обсяг обчислювальної потужності Китаю досяг 180 EFLOPS, зайнявши друге місце у світі, а обсяг індустрії обчислювальної потужності склав 1,8 трильйона юанів. Попит на великі моделі прискорив розвиток індустрії обчислювальної потужності. Є думка, що сучасні послуги обчислювальної потужності за своєю суттю є новим типом моделі "продажу електроенергії", хоча деяким постачальникам послуг все ще потрібно надавати додаткові послуги, такі як налаштування системи, встановлення програмного забезпечення тощо.

З огляду на нормалізацію високопродуктивних обчислювальних потреб великих моделей, обчислювальна потужність швидко формує унікальний промисловий ланцюг і бізнес-модель. Наразі спостерігається дефіцит високоякісних GPU та високі витрати, і той, хто зможе отримати ресурси чіпів, зможе надати послуги. Але довгострокові дослідники не поспішають, оскільки дефіцит є лише тимчасовим.

Обчислювальна потужність як послуга є визначеною тенденцією. У ситуації, коли на хвилі великих моделей повертається раціональність і ринок швидко змінюється, постачальники обчислювальної потужності повинні заздалегідь підготуватися та своєчасно коригувати стратегію для реагування на подальший розвиток.