Perusahaan besar terus berinvestasi dalam Daya Komputasi AI, mendorong permintaan Daya Komputasi global yang terus naik

Perusahaan teknologi besar terus menunjukkan semangat tinggi dalam investasi AI. Minggu ini, laporan keuangan Microsoft, Google, Meta, dan perusahaan lainnya dirilis, dan kecuali Meta, kinerja laporan keuangan perusahaan lain sangat baik. Logika siklus positif "pendapatan - pengeluaran - pendapatan kembali" sedang berlangsung, pertumbuhan pendapatan bisnis cloud dan margin laba keseluruhan terus meningkat, AI juga mendorong pertumbuhan cepat dalam iklan, pencarian, dan bisnis lainnya. "Perlombaan senjata" daya komputasi di antara penyedia cloud terkemuka sedang berlangsung dengan sangat intens, dan dalam jangka pendek hampir tidak ada kemungkinan pengeluaran modal akan melambat. Di awal perkembangan AI, penyedia terkemuka hanya dapat mempertahankan keunggulan dalam persaingan yang ketat dengan terus melakukan investasi besar-besaran. Menurut perusahaan layanan penyimpanan daya komputasi CoreWeave, keseimbangan pasokan dan permintaan daya komputasi AI mungkin baru tercapai pada tahun 2030.

Pasar semakin menantikan untuk melihat aplikasi AI "yang dekat dengan kehidupan" yang benar-benar dapat meningkatkan produktivitas atau memudahkan kehidupan dan pembelajaran. Tahun ini telah melihat model generasi video Sora dari OpenAI, model besar domestik Kimi, dan hasil menakjubkan lainnya. Di masa depan, diharapkan akan ada pembaruan terus-menerus dari model-model besar seperti GPT, Gemini, Llama, dan perusahaan-perusahaan seperti Microsoft dan Apple akan membawa model-model besar ke PC dan ponsel. Jalan menuju AGI masih panjang, mungkin masih memerlukan waktu yang cukup lama untuk dapat menginkubasi aplikasi AI yang benar-benar mengubah masyarakat.

Saat ini, kita seharusnya lebih fokus pada "Daya Komputasi dengan harga tinggi dan kinerja tinggi". Mengingat era 4G dan 5G, penurunan biaya lalu lintas seluler membawa kemakmuran aplikasi seluler. Begitu pula, penurunan biaya per unit daya komputasi akan menjadi syarat yang diperlukan untuk memasuki era AGI. Daya komputasi AI yang murah, mudah didapat, dan stabil adalah dasar untuk melahirkan aplikasi AI yang disruptif. Mengambil Sora sebagai contoh, masih diperlukan beberapa bulan sebelum publikasi, selain pertimbangan keamanan, alasan penting lainnya adalah perlu terus mengoptimalkan daya komputasi yang dibutuhkan untuk inferensi. Penyedia cloud teratas memiliki kemampuan untuk berinvestasi besar-besaran untuk menjaga daya saing, tetapi tidak dapat mewakili kebutuhan pasar secara keseluruhan, banyak perusahaan kecil dan menengah yang lebih membutuhkan Daya Komputasi dengan harga tinggi dan kinerja tinggi.

Dari komponen biaya daya komputasi, selain sekitar 10% biaya listrik, hampir semua sisanya adalah investasi aset tetap, termasuk GPU, peralatan jaringan, pendinginan, dll. Dalam hal GPU, TSMC sedang memperluas kapasitas produksi paket CoWoS yang diperlukan untuk chip AI, diperkirakan kapasitas bulanan akan mendekati 40.000 wafer pada akhir tahun ini, meningkat lebih dari 150% dibandingkan total kapasitas tahun 2023. Dalam hal peralatan jaringan, Nvidia GB200 menggunakan banyak kabel tembaga, menunjukkan bahwa mereka juga memperhatikan kontrol biaya sambil mengejar kinerja tinggi, dan produsen modul optik juga mendorong solusi koneksi optik LPO yang memiliki biaya efektif tinggi. Dalam hal pendinginan, seiring dengan meningkatnya densitas daya per rak, ketika melebihi ambang batas tertentu, biaya efektif pendinginan cair akan melebihi pendinginan udara.