Daya Komputasi telah menjadi model bisnis yang muncul, sementara gelombang "pengolahan model besar" pada akhirnya akan berlalu. Penyedia layanan daya komputasi perlu bersiap-siap, dan segera menyesuaikan arah strategi.
Pelatihan model besar vertikal di bidang meteorologi menggunakan 200 kartu GPU selama dua bulan untuk pre-training, dengan biaya diperkirakan melebihi 2 juta yuan. Jika melatih model besar umum, biayanya mungkin akan meningkat seratus kali lipat. Saat ini, China telah memiliki lebih dari seratus model besar dengan skala 10 miliar parameter, tetapi industri menghadapi tantangan kekurangan GPU kelas atas. Biaya Daya Komputasi yang tinggi dan kekurangan Daya Komputasi serta dana menjadi tantangan paling langsung bagi industri.
GPU kelas atas sangat langka, harga melambung tinggi. Sebuah NVIDIA A100 bisa dihargai hingga dua hingga tiga ratus ribu yuan, sewa bulanan untuk satu server A100 juga naik menjadi 50-70 ribu yuan. Meskipun demikian, chip masih mungkin tidak dapat dibeli. Seorang eksekutif cloud computing menyatakan, meskipun banyak klien membutuhkan sumber daya GPU kelas atas, saat ini pasokan masih belum dapat sepenuhnya memenuhi permintaan pasar yang luas.
Ambang pelatihan model besar tidak semudah yang dibayangkan. Tanpa investasi miliaran, sulit untuk terus melakukan penelitian dan pengembangan model besar. Seorang pengusaha menggambarkan, jika tidak ada dukungan dana ratusan miliar, jalan ini sulit dilalui. Di industri ini, secara umum dianggap bahwa, seiring dengan meningkatnya persaingan pasar, perusahaan akan kembali ke rasionalitas dari kegilaan, menyesuaikan strategi untuk mengendalikan biaya.
Menghadapi Daya Komputasi yang kurang, setiap perusahaan aktif dalam menghadapinya. Beberapa cara termasuk: menggunakan data berkualitas lebih tinggi untuk meningkatkan efisiensi pelatihan; meningkatkan kemampuan infrastruktur untuk memastikan operasi yang stabil; mengoptimalkan penjadwalan sumber daya Daya Komputasi; beralih dari arsitektur cloud ke arsitektur superkomputer; menggunakan platform dalam negeri sebagai pengganti Nvidia dan lainnya. Namun, cara-cara ini merupakan proyek besar bagi perusahaan umum, banyak tim algoritma memilih penyedia layanan Daya Komputasi profesional untuk mendukung.
Daya Komputasi telah menjadi model layanan baru. Layanan daya komputasi adalah bidang industri baru yang didasarkan pada daya komputasi yang beragam, terhubung melalui jaringan daya komputasi, dengan tujuan untuk menyediakan daya komputasi secara efektif. Ini tidak hanya mencakup daya komputasi, tetapi juga mengemas secara bersamaan sumber daya seperti penyimpanan, jaringan, dan menyampaikan layanan dalam bentuk API.
Daya Komputasi industri rantai pasokan utama menyediakan sumber daya dasar seperti chip, server, dan lain-lain. Di tengah rantai, penyedia layanan cloud dan penyedia layanan daya komputasi baru menjadi yang utama, bertanggung jawab atas produksi dan penyediaan daya komputasi. Di hilir, pengguna industri yang bergantung pada layanan daya komputasi untuk menciptakan nilai tambah. Dibandingkan dengan lingkungan yang dibangun sendiri, menggunakan layanan daya komputasi lebih unggul dalam hal biaya dan teknologi.
Model penagihan layanan daya komputasi yang mainstream saat ini adalah penagihan berdasarkan penggunaan dan paket tahunan/bulanan. Beberapa penyedia layanan juga mendorong "integrasi dan penggabungan daya komputasi dan jaringan", mendukung penjadwalan sumber daya lintas arsitektur, wilayah, dan penyedia layanan. Penyedia layanan cloud juga menjadikan layanan daya komputasi sebagai produk penting yang cepat memasuki pasar.
Pada tahun 2022, total skala daya komputasi di Tiongkok mencapai 180 EFLOPS, menempati posisi kedua di dunia, dengan skala industri daya komputasi mencapai 1,8 triliun yuan. Permintaan model besar mempercepat perkembangan industri daya komputasi. Beberapa pandangan berpendapat bahwa layanan daya komputasi saat ini pada dasarnya adalah jenis model "menjual listrik" yang baru, hanya saja sebagian penyedia layanan masih perlu menyediakan layanan tambahan seperti pengaturan sistem, instalasi perangkat lunak, dan sebagainya.
Dengan normalisasi permintaan komputasi berkinerja tinggi untuk model besar, layanan daya komputasi sedang dengan cepat membentuk rantai industri dan model bisnis yang unik. Saat ini, ada kekurangan GPU kelas atas dan biaya yang tinggi, siapa pun yang dapat memperoleh sumber daya chip dapat memenuhi layanan. Namun, para peneliti jangka panjang tidak terburu-buru, karena kekurangan ini hanya bersifat sementara.
Daya Komputasi yang dilayani adalah tren yang pasti. Dalam situasi di mana gelombang model besar kembali ke rasionalitas dan perubahan pasar semakin cepat, penyedia layanan daya komputasi perlu bersiap-siap dan segera menyesuaikan strategi untuk menghadapi perkembangan di masa depan.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
14 Suka
Hadiah
14
5
Posting ulang
Bagikan
Komentar
0/400
liquidation_surfer
· 07-27 14:39
Dijual dengan harga selangit tetap rugi!
Lihat AsliBalas0
SerumSqueezer
· 07-25 08:05
Dimasak dengan sangat baik, Dianggap Bodoh adalah masa yang paling kuat.
Daya Komputasi layanan peluang baru: Transformasi dan tantangan industri di bawah gelombang model besar
Daya Komputasi telah menjadi model bisnis yang muncul, sementara gelombang "pengolahan model besar" pada akhirnya akan berlalu. Penyedia layanan daya komputasi perlu bersiap-siap, dan segera menyesuaikan arah strategi.
Pelatihan model besar vertikal di bidang meteorologi menggunakan 200 kartu GPU selama dua bulan untuk pre-training, dengan biaya diperkirakan melebihi 2 juta yuan. Jika melatih model besar umum, biayanya mungkin akan meningkat seratus kali lipat. Saat ini, China telah memiliki lebih dari seratus model besar dengan skala 10 miliar parameter, tetapi industri menghadapi tantangan kekurangan GPU kelas atas. Biaya Daya Komputasi yang tinggi dan kekurangan Daya Komputasi serta dana menjadi tantangan paling langsung bagi industri.
GPU kelas atas sangat langka, harga melambung tinggi. Sebuah NVIDIA A100 bisa dihargai hingga dua hingga tiga ratus ribu yuan, sewa bulanan untuk satu server A100 juga naik menjadi 50-70 ribu yuan. Meskipun demikian, chip masih mungkin tidak dapat dibeli. Seorang eksekutif cloud computing menyatakan, meskipun banyak klien membutuhkan sumber daya GPU kelas atas, saat ini pasokan masih belum dapat sepenuhnya memenuhi permintaan pasar yang luas.
Ambang pelatihan model besar tidak semudah yang dibayangkan. Tanpa investasi miliaran, sulit untuk terus melakukan penelitian dan pengembangan model besar. Seorang pengusaha menggambarkan, jika tidak ada dukungan dana ratusan miliar, jalan ini sulit dilalui. Di industri ini, secara umum dianggap bahwa, seiring dengan meningkatnya persaingan pasar, perusahaan akan kembali ke rasionalitas dari kegilaan, menyesuaikan strategi untuk mengendalikan biaya.
Menghadapi Daya Komputasi yang kurang, setiap perusahaan aktif dalam menghadapinya. Beberapa cara termasuk: menggunakan data berkualitas lebih tinggi untuk meningkatkan efisiensi pelatihan; meningkatkan kemampuan infrastruktur untuk memastikan operasi yang stabil; mengoptimalkan penjadwalan sumber daya Daya Komputasi; beralih dari arsitektur cloud ke arsitektur superkomputer; menggunakan platform dalam negeri sebagai pengganti Nvidia dan lainnya. Namun, cara-cara ini merupakan proyek besar bagi perusahaan umum, banyak tim algoritma memilih penyedia layanan Daya Komputasi profesional untuk mendukung.
Daya Komputasi telah menjadi model layanan baru. Layanan daya komputasi adalah bidang industri baru yang didasarkan pada daya komputasi yang beragam, terhubung melalui jaringan daya komputasi, dengan tujuan untuk menyediakan daya komputasi secara efektif. Ini tidak hanya mencakup daya komputasi, tetapi juga mengemas secara bersamaan sumber daya seperti penyimpanan, jaringan, dan menyampaikan layanan dalam bentuk API.
Daya Komputasi industri rantai pasokan utama menyediakan sumber daya dasar seperti chip, server, dan lain-lain. Di tengah rantai, penyedia layanan cloud dan penyedia layanan daya komputasi baru menjadi yang utama, bertanggung jawab atas produksi dan penyediaan daya komputasi. Di hilir, pengguna industri yang bergantung pada layanan daya komputasi untuk menciptakan nilai tambah. Dibandingkan dengan lingkungan yang dibangun sendiri, menggunakan layanan daya komputasi lebih unggul dalam hal biaya dan teknologi.
Model penagihan layanan daya komputasi yang mainstream saat ini adalah penagihan berdasarkan penggunaan dan paket tahunan/bulanan. Beberapa penyedia layanan juga mendorong "integrasi dan penggabungan daya komputasi dan jaringan", mendukung penjadwalan sumber daya lintas arsitektur, wilayah, dan penyedia layanan. Penyedia layanan cloud juga menjadikan layanan daya komputasi sebagai produk penting yang cepat memasuki pasar.
Pada tahun 2022, total skala daya komputasi di Tiongkok mencapai 180 EFLOPS, menempati posisi kedua di dunia, dengan skala industri daya komputasi mencapai 1,8 triliun yuan. Permintaan model besar mempercepat perkembangan industri daya komputasi. Beberapa pandangan berpendapat bahwa layanan daya komputasi saat ini pada dasarnya adalah jenis model "menjual listrik" yang baru, hanya saja sebagian penyedia layanan masih perlu menyediakan layanan tambahan seperti pengaturan sistem, instalasi perangkat lunak, dan sebagainya.
Dengan normalisasi permintaan komputasi berkinerja tinggi untuk model besar, layanan daya komputasi sedang dengan cepat membentuk rantai industri dan model bisnis yang unik. Saat ini, ada kekurangan GPU kelas atas dan biaya yang tinggi, siapa pun yang dapat memperoleh sumber daya chip dapat memenuhi layanan. Namun, para peneliti jangka panjang tidak terburu-buru, karena kekurangan ini hanya bersifat sementara.
Daya Komputasi yang dilayani adalah tren yang pasti. Dalam situasi di mana gelombang model besar kembali ke rasionalitas dan perubahan pasar semakin cepat, penyedia layanan daya komputasi perlu bersiap-siap dan segera menyesuaikan strategi untuk menghadapi perkembangan di masa depan.