Daya Komputasi Layanan: Model Bisnis Baru di Era Model Besar

Seiring dengan perkembangan pesat model besar kecerdasan buatan, Daya Komputasi menjadi salah satu model bisnis yang muncul. Meskipun saat ini tren "mengolah ramuan" model besar mungkin akan mereda, penyedia layanan daya komputasi tetap perlu bersiap-siap dan segera menyesuaikan arah strategi.

Baru-baru ini, seorang pemuda yang lulus dari Universitas Tsinghua tiga tahun lalu telah melatih model cuaca besar dengan jumlah parameter mencapai tingkat miliaran. Model ini menggunakan data cuaca global selama 40 tahun, memakan waktu sekitar 2 bulan, dan menggunakan 200 kartu GPU untuk pelatihan awal. Berdasarkan harga sewa GPU sebesar 7,8 yuan per jam, biaya pelatihan untuk model besar di bidang vertikal ini saja bisa melebihi 2 juta yuan. Jika itu adalah pelatihan model besar umum, biayanya mungkin seratus kali lipat.

Saat ini, China telah memiliki lebih dari 100 model besar dengan skala 10 miliar parameter. Namun, industri secara umum menghadapi kekurangan GPU kelas atas dan biaya daya komputasi yang tinggi. Kekurangan daya komputasi dan dana menjadi tantangan paling langsung yang dihadapi banyak perusahaan.

Kekurangan GPU kelas atas telah menjadi masalah yang diakui oleh industri. Pada puncaknya, harga satu unit NVIDIA A100 telah melambung hingga 200.000-300.000 yuan, dan sewa bulanan untuk satu server A100 juga meroket hingga 50.000-70.000 yuan. Meskipun demikian, masih mungkin untuk tidak mendapatkan chip. Beberapa penyedia Daya Komputasi bahkan menghadapi situasi langka seperti pelanggaran kontrak oleh pemasok.

Sementara itu, ambang batas pelatihan model besar tidak semudah yang dipromosikan oleh industri. Melatih model besar umum dengan skala satu miliar parameter atau lebih, biayanya mungkin memerlukan investasi puluhan miliar. Tanpa dukungan finansial yang kuat, sulit untuk terus melakukan penelitian dan pengembangan model besar.

Menghadapi situasi ini, industri secara umum percaya bahwa seiring pasar menjadi lebih rasional, perusahaan juga akan menyesuaikan strategi dan mengendalikan biaya. Beberapa perusahaan sedang menjajaki metode inovatif untuk mengatasi kekurangan daya komputasi, seperti menggunakan data berkualitas lebih tinggi untuk meningkatkan efisiensi pelatihan, meningkatkan stabilitas infrastruktur, dan mengoptimalkan penjadwalan sumber daya. Ada juga perusahaan yang memilih untuk menggunakan platform dalam negeri menggantikan GPU Nvidia untuk pelatihan dan inferensi model besar.

Daya Komputasi telah berevolusi menjadi model layanan baru dalam permintaan pasar dan iterasi teknologi. Layanan daya komputasi didasarkan pada daya komputasi yang beragam, terhubung melalui jaringan daya komputasi, dan menyediakan pasokan daya komputasi yang efektif. Ini tidak hanya mencakup daya komputasi, tetapi juga mengintegrasikan sumber daya seperti penyimpanan, jaringan, dan menyelesaikan pengiriman daya komputasi dalam bentuk API.

Dalam rantai industri daya komputasi, perusahaan hulu menyediakan sumber daya daya komputasi dasar, perusahaan tengah bertanggung jawab atas produksi dan pasokan daya komputasi, sementara perusahaan hilir mengandalkan layanan daya komputasi untuk mengembangkan layanan nilai tambah. Dengan normalisasi permintaan komputasi berkinerja tinggi dari model-model besar, layanan daya komputasi sedang cepat membentuk rantai industri dan model bisnis yang unik.

Saat ini, penagihan berdasarkan penggunaan dan paket tahunan/bulanan adalah model penagihan layanan daya komputasi yang utama. Industri juga mendorong "integrasi dan penggabungan daya komputasi dan jaringan", mendukung penjadwalan sumber daya daya komputasi lintas arsitektur, lintas wilayah, dan lintas penyedia layanan.

Meskipun saat ini ada kekurangan GPU kelas atas dan biaya yang tinggi, ini hanya fenomena sementara. Dalam jangka panjang, Daya Komputasi sebagai layanan adalah tren yang pasti. Penyedia layanan daya komputasi perlu bersiap-siap, dan menyesuaikan arah strategi mereka tepat waktu ketika pasar kembali ke rasionalitas.