Bilgi İşlem Gücü Hizmeti: Büyük Model Çağında Yeni İş Modelleri

Yapay zeka büyük modellerinin hızlı gelişimiyle birlikte, bilgi işlem gücü yeni bir ticaret modeli haline geldi. Mevcut büyük model "şifa" çılgınlığının yavaş yavaş sona erebileceği düşünülse de, bilgi işlem gücü hizmet sağlayıcıları hala tedbir almalı ve stratejik yönlerini zamanında ayarlamalıdır.

Son zamanlarda, Tsinghua Üniversitesi'nden 3 yıl mezun olmuş bir genç, parametre sayısı milyonu aşan bir meteoroloji büyük modeli geliştirdi. Bu model, 40 yıllık küresel hava durumu verilerini kullandı, yaklaşık 2 ay sürdü ve ön eğitim için 200 adet GPU kartı kullanıldı. Saatlik 7,8 TL'lik GPU kiralama fiyatı ile hesaplandığında, sadece bu dikey alan büyük modelinin eğitim maliyeti 2 milyon TL'yi aşabilir. Eğer genel büyük model eğitimi yapılırsa, maliyet yüz katına çıkabilir.

Şu anda Çin'de 100'den fazla 10 milyar parametre ölçeğinde büyük model mevcut. Ancak, sektör genel olarak yüksek kaliteli GPU sıkıntısı ve bilgi işlem gücü maliyetinin yüksekliği ile karşı karşıya. Bilgi işlem gücü ve finansman eksikliği, birçok işletmenin karşısında en doğrudan zorluk haline geldi.

Yüksek kaliteli GPU eksikliği, sektör genelinde kabul görmüş bir sorun haline geldi. Zirve dönemlerinde, tek bir Nvidia A100'ün fiyatı 200.000-300.000 TL'ye kadar yükseldi, bir A100 sunucusunun aylık kirası da 50.000-70.000 TL'ye fırladı. Yine de, çipleri elde etmek mümkün olmayabiliyor. Bazı bilgi işlem gücü sağlayıcıları, tedarikçi ihlali gibi nadir durumlarla bile karşılaştı.

Bu arada, büyük model eğitiminin eşiği, sektörde duyurulduğu kadar kolay değildir. Bir milyar parametre ölçeğinde veya daha büyük bir genel büyük model eğitmek, maliyetin on milyonlarca yuan yatırımı gerektirebileceği anlamına gelir. Güçlü bir finansal destek olmadan, büyük model araştırma ve geliştirmesini sürdürebilmek zordur.

Bu duruma karşı, sektörde genel olarak, pazarın daha rasyonel hale gelmesiyle birlikte, şirketlerin de stratejilerini ayarlayacağı ve maliyetleri kontrol edeceği düşünülmektedir. Bazı şirketler, eğitim verimliliğini artırmak için daha yüksek kaliteli veriler kullanmak, altyapı istikrarını artırmak, kaynak dağıtımını optimize etmek gibi bilgi işlem gücü eksikliklerini telafi etmek için yenilikçi yöntemler keşfetmektedir. Ayrıca bazı şirketler, büyük model eğitimi ve çıkarımı için Nvidia GPU'ları yerine yerli platformlar kullanmayı tercih etmektedir.

Bilgi İşlem Gücü, piyasa talebi ve teknoloji iterasyonu içinde yeni bir hizmet modeli haline gelmiştir. Bilgi İşlem Gücü hizmetleri, çeşitlendirilmiş bilgi işlem gücüne dayanarak, bilgi işlem ağı bağlantısı ile etkili bir bilgi işlem gücü sağlamakta. Bu sadece bilgi işlem gücünü değil, aynı zamanda depolama, ağ gibi kaynakları da entegre ederek, API gibi formlar aracılığıyla bilgi işlem gücü teslimatını tamamlamaktadır.

Güç işlem endüstri zincirinde, üst akış şirketleri temel bilgi işlem gücü kaynaklarını sağlar, orta akış şirketleri bilgi işlem üretimi ve arzından sorumludur, alt akış şirketleri ise bilgi işlem hizmetlerine dayanarak katma değerli hizmet geliştirmektedir. Büyük modellerin yüksek performanslı hesaplama talebinin normalleşmesi ile, bilgi işlem hizmetleri hızla kendine özgü bir endüstri zinciri ve iş modeli oluşturmaktadır.

Şu anda, kullanım bazlı ücretlendirme ve yıllık/aylık abonelik, ana akım bilgi işlem gücü hizmetleri ücretlendirme modelleridir. Sektör ayrıca "hesaplama ve ağın entegrasyonu"nu teşvik etmekte, farklı mimariler, bölgeler ve hizmet sağlayıcılar arasında bilgi işlem gücü kaynaklarının dağıtımını desteklemektedir.

Yüksek kaliteli GPU'ların kıtlığı ve yüksek maliyetlerine rağmen, bu sadece geçici bir durumdur. Uzun vadede, bilgi işlem gücü bir hizmet olarak belirleyici bir eğilimdir. Bilgi işlem gücü hizmet sağlayıcıları, piyasa mantıklı hale geldiğinde stratejik yönlerini zamanında ayarlamak için hazırlıklı olmalıdır.