Büyük şirketler AI Bilgi İşlem Gücü'ne sürekli yatırım yapıyor, küresel Bilgi İşlem Gücü talebinin sürekli yükselişini sağlıyor.

Büyük teknoloji şirketlerinin AI'ye olan yatırımları devam eden bir şekilde artış gösteriyor. Bu hafta Microsoft, Google, Meta gibi şirketlerin mali raporları açıklandı, Meta hariç diğer şirketlerin raporları oldukça başarılı. "Gelir - Gider - Yeniden Gelir" pozitif döngü mantığı sahnede, bulut hizmetleri gelirinin artış hızı ve genel kâr marjı sürekli olarak yükseliyor, AI aynı zamanda reklam, arama gibi işlerin hızlı yükselişine de katkı sağlıyor. Bu önde gelen bulut sağlayıcılarının Bilgi İşlem Gücü "silahlanma yarışı" tüm hızıyla devam ediyor, kısa vadede sermaye harcamalarının yavaşlayacağına dair bir işaret yok. AI gelişiminin ilk aşamalarında, önde gelen firmaların yalnızca sürekli büyük yatırımlar yaparak, kıyasıya rekabetin içinde avantajlarını koruyabilmeleri mümkün. Bilgi İşlem Gücü barındırma hizmeti sunan CoreWeave'e göre, AI Bilgi İşlem Gücü arz ve talep dengesinin 2030 yılına kadar sağlanması beklenmiyor.

Pazar, gerçekten üretkenliği artıran veya yaşam öğrenimini kolaylaştıran "yerel" AI uygulamalarını görmeyi giderek daha fazla bekliyor. Bu yıl, OpenAI'nin Sora video üretim modeli, yerli büyük model Kimi gibi etkileyici sonuçlar gördük, gelecekte GPT, Gemini, Llama gibi büyük modellerin sürekli güncellemelerini ve Microsoft, Apple gibi şirketlerin büyük modelleri PC ve akıllı telefonlara taşımasını bekliyoruz. AGI'ye giden yol hala uzun, gerçekten toplumu değiştiren AI uygulamalarının ortaya çıkması için muhtemelen daha uzun bir zamana ihtiyaç var.

Günümüzde "yüksek maliyet etkinliği bilgi işlem gücü"ne odaklanmak daha önemli. 4G ve 5G dönemine baktığımızda, mobil veri maliyetlerindeki düşüş mobil uygulamaların patlamasını sağladı. Benzer şekilde, birim bilgi işlem gücü maliyetinin düşmesi, AGI dönemine geçiş için gerekli bir koşuldur. Uygun fiyatlı, kolay erişilebilir ve stabil AI bilgi işlem gücü, devrim niteliğindeki AI uygulamalarının oluşumu için temeldir. Sora örneğinde olduğu gibi, kamuya açıklanması için birkaç ay daha beklemesi gerekiyor; güvenlik endişelerinin yanı sıra, bir diğer önemli neden ise sürekli olarak çıkarım için gereken bilgi işlem gücünün optimize edilmesidir. Önde gelen bulut sağlayıcıları rekabet gücünü korumak için büyük yatırımlar yapma kapasitesine sahipken, bu tüm piyasanın talebini temsil etmez. Küçük ve orta ölçekli işletmelerin yüksek maliyet etkinliği bilgi işlem gücüne ihtiyacı vardır.

Güç maliyetinin bileşenlerine bakıldığında, yaklaşık %10'luk elektrik maliyeti dışında, geri kalan neredeyse tamamen sabit varlık yatırımından oluşmaktadır; bu yatırımlar arasında GPU, ağ ekipmanları, soğutma vb. yer almaktadır. GPU konusunda, TSMC, AI çipleri için gerekli olan CoWoS paketleme kapasitesini genişletmektedir; bu yıl sonunda aylık kapasitenin 40.000 parçaya yaklaşması beklenmektedir, bu da 2023 toplam kapasitesinin %150'den fazla artışını göstermektedir. Ağ ekipmanları açısından, Nvidia'nın GB200 modeli, yüksek performans arayışında maliyet kontrolüne de önem vererek çok sayıda bakır kablo kullanmaktadır; optik modül üreticileri de LPO gibi yüksek maliyet etkinliği sunan optik bağlantı çözümlerini teşvik etmektedir. Soğutma açısından, tek kabin güç yoğunluğu arttıkça, belirli bir kritik değer aşıldığında sıvı soğutmanın maliyet etkinliği hava soğutmayı geçecektir.