Bilgi İşlem Gücü hizmetleri için yeni fırsatlar: Büyük model çılgınlığındaki sektörel dönüşüm ve zorluklar

Bilgi İşlem Gücü, yeni bir iş modeli haline geldi ve büyük model "炼丹" heyecanı nihayetinde geçecektir. Bilgi işlem gücü hizmet sağlayıcıları, geleceğe hazırlıklı olmalı ve stratejik yönlerini zamanında ayarlamalıdır.

Bir meteoroloji alanında dikey büyük model eğitimi, 200 adet GPU kartı kullanılarak iki ay süren ön eğitim gerçekleştirilmiş, maliyetin 2 milyon yuan'ı aşması beklenmektedir. Eğer genel büyük model eğitimi yapılacak olursa, maliyet yüz kat artabilir. Şu anda Çin'de 10 milyar parametre ölçeğinde 100'den fazla büyük model bulunmaktadır, ancak sektör yüksek kaliteli GPU eksikliği problemiyle karşı karşıya. Bilgi İşlem Gücü maliyetleri yüksek, bilgi işlem ve fon eksikliği sektörün en doğrudan zorlukları haline gelmiştir.

Yüksek kaliteli GPU'lar son derece kıt, fiyatlar fırlıyor. Bir adet Nvidia A100, en yüksek 200-300 bin TL'ye kadar satılmakta, tek bir A100 sunucusunun aylık kirası da 50-70 bin TL'ye yükseldi. Yine de, çip bulmak hala mümkün olmayabilir. Bir bulut bilişim yöneticisi, birçok müşterinin yüksek kaliteli GPU kaynaklarına ihtiyaç duymasına rağmen, mevcut arzın geniş pazar talebini tamamen karşılayamadığını belirtti.

Büyük model eğitiminin eşiği düşündüğümüz kadar düşük değil. Onlarca milyar fon yatırımı olmadan, büyük model geliştirmeyi sürdürebilmek zor. Bir girişimci, eğer yüzlerce milyar fon desteği yoksa, bu yolun zor olduğunu tanımlıyor. Sektörde genel bir görüş var ki, pazar rekabetinin artmasıyla birlikte, işletmeler coşkudan rasyonelliğe dönecek, stratejilerini ayarlayarak maliyetleri kontrol altına alacak.

Karşılaşılan bilgi işlem gücü eksikliği karşısında, her şirket aktif bir şekilde yanıt veriyor. Bazı yöntemler şunları içeriyor: Eğitim verimliliğini artırmak için daha yüksek kaliteli veriler kullanmak; istikrarlı bir çalışma sağlamak için altyapı kapasitesini artırmak; bilgi işlem gücü kartı kaynaklarının dağıtımını optimize etmek; bulut bilişim mimarisinden süper bilgisayar mimarisine geçiş yapmak; yerli platformları NVIDIA gibi alternatiflerle değiştirmek. Ancak bu yöntemler, genel olarak şirketler için büyük projelerdir ve birçok algoritma ekibi profesyonel bilgi işlem gücü hizmet sağlayıcılarının desteğini tercih ediyor.

Bilgi İşlem Gücü yeni bir hizmet modeli haline geldi. Bilgi İşlem Gücü hizmeti, çeşitli bilgi işlem güçlerine dayanarak, bilgi işlem ağı bağlantısı ile bilgi işlem gücünü etkili bir şekilde sağlama hedefiyle ortaya çıkan yeni endüstri alanıdır. Bu yalnızca bilgi işlem gücünü değil, aynı zamanda depolama, ağ gibi kaynakları da kapsar ve hizmeti API gibi biçimlerde sağlar.

Bilgi İşlem Gücü sanayi zincirinin amir tedarikçileri arasında çipler, sunucular gibi temel kaynaklar yer almaktadır. Orta kısımda bulut hizmet sağlayıcıları ve yeni nesil bilgi işlem hizmet sağlayıcıları bulunmakta, bunlar bilgi işlem üretimi ve tedarikinden sorumludur. Aşağı kısım ise bilgi işlem hizmetlerinden değer katma amacıyla yararlanan endüstri kullanıcılarını kapsamaktadır. Kendi ortamını kurmaya kıyasla, bilgi işlem hizmetlerini kullanmak maliyet ve teknoloji açısından daha avantajlıdır.

Kullanıma göre ücretlendirme ve yıllık/aylık paketler, mevcut popüler bilgi işlem gücü hizmetleri ücretlendirme modelleridir. Bazı hizmet sağlayıcılar da "hesaplama ve ağın birleşik entegrasyonu"nu teşvik ediyor, mimari, bölge ve hizmet sağlayıcılar arasında kaynak dağıtımını destekliyor. Bulut hizmet sağlayıcıları da bilgi işlem gücü hizmetlerini önemli bir ürün olarak hızlı bir şekilde pazara sunuyor.

2022 yılında Çin'in toplam bilgi işlem gücü 180 EFLOPS'a ulaştı ve dünya genelinde ikinci sırada yer aldı, bilgi işlem endüstrisinin büyüklüğü 1.8 trilyon yuan olarak belirlendi. Büyük model talepleri, bilgi işlem endüstrisinin gelişimini hızlandırdı. Bazı görüşlere göre, mevcut bilgi işlem hizmetleri esasen yeni bir "elektrik satışı" modeli olarak değerlendirilmektedir, ancak bazı hizmet sağlayıcıların sistem ayarı, yazılım kurulumu gibi ek hizmetler sunması gerekmektedir.

Büyük model yüksek performans hesaplama taleplerinin normalleşmesiyle, bilgi işlem gücü hizmetleri hızla benzersiz bir endüstri zinciri ve iş modeli oluşturmaktadır. Şu anda yüksek kaliteli GPU sıkıntısı ve maliyetlerin yüksekliği söz konusu, kim çip kaynaklarını elde ederse o iş teslim edebilir. Ancak uzun vadeli araştırmacılar acele etmiyor, çünkü bu kıtlık geçicidir.

Bilgi İşlem Gücü hizmetleştirilmesi kesin bir eğilimdir. Büyük model heyecanı makul bir şekilde geri dönerken ve piyasa değişimleri hızlanırken, bilgi işlem gücü sağlayıcıları gelecekteki gelişmelere uyum sağlamak için önceden önlem almalı ve stratejilerini zamanında ayarlamalıdır.