Khả năng tính toán dịch vụ: Mô hình kinh doanh mới trong thời đại mô hình lớn
Với sự phát triển mạnh mẽ của các mô hình AI lớn, khả năng tính toán đã trở thành một mô hình kinh doanh mới nổi. Mặc dù cơn sốt "luyện đan" của các mô hình lớn hiện tại có thể dần lắng xuống, các nhà cung cấp dịch vụ khả năng tính toán vẫn cần chuẩn bị trước, kịp thời điều chỉnh chiến lược của mình.
Gần đây, một người trẻ tốt nghiệp Đại học Tsinghua 3 năm đã huấn luyện ra một mô hình khí tượng với số lượng tham số lên tới hàng trăm triệu. Mô hình này sử dụng dữ liệu thời tiết toàn cầu trong 40 năm, mất khoảng 2 tháng, và sử dụng 200 thẻ GPU để thực hiện huấn luyện trước. Theo mức giá thuê GPU là 7,8 nhân dân tệ mỗi giờ, chỉ riêng chi phí huấn luyện của mô hình lớn trong lĩnh vực chuyên biệt này có thể vượt quá 2 triệu nhân dân tệ. Nếu là huấn luyện mô hình lớn chung, chi phí có thể tăng gấp trăm lần.
Hiện tại, Trung Quốc đã có hơn 100 mô hình lớn với quy mô 10 tỷ tham số. Tuy nhiên, ngành công nghiệp đang phải đối mặt với tình trạng thiếu hụt GPU cao cấp và chi phí tính toán cao. Thiếu hụt khả năng tính toán và vốn trở thành thách thức trực tiếp nhất đối với nhiều doanh nghiệp.
Sự thiếu hụt GPU cao cấp đã trở thành vấn đề được công nhận trong ngành. Trong thời kỳ cao điểm, giá một chiếc Nvidia A100 đã được đẩy lên 200-300 triệu, trong khi tiền thuê một máy chủ A100 cũng đã tăng vọt lên 50-70 triệu mỗi tháng. Dù vậy, vẫn có thể không nhận được chip. Một số nhà cung cấp khả năng tính toán thậm chí gặp phải tình huống hiếm gặp như nhà cung cấp vi phạm hợp đồng.
Trong khi đó, ngưỡng để đào tạo mô hình lớn không dễ dàng như ngành công nghiệp quảng bá. Để đào tạo một mô hình lớn đa năng với quy mô một tỷ tham số hoặc lớn hơn, chi phí có thể cần đầu tư lên đến hàng tỷ nhân dân tệ. Nếu không có sự hỗ trợ tài chính vững mạnh, rất khó để tiếp tục nghiên cứu và phát triển mô hình lớn.
Đối mặt với tình huống này, trong ngành thường cho rằng, khi thị trường trở nên lý tính hơn, các doanh nghiệp cũng sẽ điều chỉnh chiến lược và kiểm soát chi phí tương ứng. Một số công ty đang khám phá các phương pháp đổi mới để bù đắp cho khả năng tính toán thiếu hụt, như sử dụng dữ liệu chất lượng cao hơn để nâng cao hiệu quả đào tạo, cải thiện tính ổn định của hạ tầng, tối ưu hóa việc phân bổ tài nguyên, v.v. Cũng có doanh nghiệp lựa chọn sử dụng nền tảng nội địa thay thế cho GPU của NVIDIA trong việc đào tạo và suy diễn mô hình lớn.
Khả năng tính toán đã trở thành một mô hình dịch vụ mới trong nhu cầu thị trường và sự phát triển công nghệ. Dịch vụ khả năng tính toán dựa trên khả năng tính toán đa dạng, thông qua kết nối mạng khả năng tính toán, cung cấp nguồn cung cấp khả năng tính toán hiệu quả. Nó không chỉ bao gồm khả năng tính toán, mà còn tích hợp các tài nguyên như lưu trữ, mạng, v.v., để hoàn thành việc giao hàng khả năng tính toán dưới dạng API.
Trong chuỗi ngành công nghiệp khả năng tính toán, các doanh nghiệp thượng nguồn cung cấp nguồn tài nguyên khả năng tính toán cơ bản, các doanh nghiệp trung lưu chịu trách nhiệm sản xuất và cung cấp khả năng tính toán, trong khi các doanh nghiệp hạ nguồn dựa vào dịch vụ khả năng tính toán để phát triển các dịch vụ gia tăng giá trị. Với việc các mô hình lớn yêu cầu tính toán hiệu suất cao trở thành bình thường, dịch vụ khả năng tính toán đang nhanh chóng hình thành một chuỗi ngành công nghiệp và mô hình kinh doanh độc đáo.
Hiện tại, tính phí theo lượng và gói năm gói tháng là mô hình tính phí dịch vụ khả năng tính toán chính. Ngành cũng đang thúc đẩy "tích hợp và hợp nhất khả năng tính toán và mạng", hỗ trợ việc điều phối tài nguyên khả năng tính toán qua các kiến trúc, khu vực và nhà cung cấp dịch vụ khác nhau.
Mặc dù hiện tại GPU cao cấp đang khan hiếm và chi phí cao, nhưng đây chỉ là hiện tượng tạm thời. Về lâu dài, khả năng tính toán như một dịch vụ là xu hướng xác định. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước, điều chỉnh hướng chiến lược kịp thời khi thị trường trở lại hợp lý.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
14 thích
Phần thưởng
14
5
Chia sẻ
Bình luận
0/400
CoinBasedThinking
· 6giờ trước
Chơi đất đai đã đến cả khả năng tính toán.
Xem bản gốcTrả lời0
TestnetNomad
· 6giờ trước
Dịch vụ khả năng tính toán của gan có thể kiếm tiền không?
Xem bản gốcTrả lời0
Web3ProductManager
· 6giờ trước
chạy một số tính toán ROI nhanh... chi phí tính toán sẽ giết chết hầu hết các công ty khởi nghiệp thật sự
Khả năng tính toán dịch vụ nổi lên Mô hình kinh doanh và thách thức mới của thời đại mô hình lớn
Khả năng tính toán dịch vụ: Mô hình kinh doanh mới trong thời đại mô hình lớn
Với sự phát triển mạnh mẽ của các mô hình AI lớn, khả năng tính toán đã trở thành một mô hình kinh doanh mới nổi. Mặc dù cơn sốt "luyện đan" của các mô hình lớn hiện tại có thể dần lắng xuống, các nhà cung cấp dịch vụ khả năng tính toán vẫn cần chuẩn bị trước, kịp thời điều chỉnh chiến lược của mình.
Gần đây, một người trẻ tốt nghiệp Đại học Tsinghua 3 năm đã huấn luyện ra một mô hình khí tượng với số lượng tham số lên tới hàng trăm triệu. Mô hình này sử dụng dữ liệu thời tiết toàn cầu trong 40 năm, mất khoảng 2 tháng, và sử dụng 200 thẻ GPU để thực hiện huấn luyện trước. Theo mức giá thuê GPU là 7,8 nhân dân tệ mỗi giờ, chỉ riêng chi phí huấn luyện của mô hình lớn trong lĩnh vực chuyên biệt này có thể vượt quá 2 triệu nhân dân tệ. Nếu là huấn luyện mô hình lớn chung, chi phí có thể tăng gấp trăm lần.
Hiện tại, Trung Quốc đã có hơn 100 mô hình lớn với quy mô 10 tỷ tham số. Tuy nhiên, ngành công nghiệp đang phải đối mặt với tình trạng thiếu hụt GPU cao cấp và chi phí tính toán cao. Thiếu hụt khả năng tính toán và vốn trở thành thách thức trực tiếp nhất đối với nhiều doanh nghiệp.
Sự thiếu hụt GPU cao cấp đã trở thành vấn đề được công nhận trong ngành. Trong thời kỳ cao điểm, giá một chiếc Nvidia A100 đã được đẩy lên 200-300 triệu, trong khi tiền thuê một máy chủ A100 cũng đã tăng vọt lên 50-70 triệu mỗi tháng. Dù vậy, vẫn có thể không nhận được chip. Một số nhà cung cấp khả năng tính toán thậm chí gặp phải tình huống hiếm gặp như nhà cung cấp vi phạm hợp đồng.
Trong khi đó, ngưỡng để đào tạo mô hình lớn không dễ dàng như ngành công nghiệp quảng bá. Để đào tạo một mô hình lớn đa năng với quy mô một tỷ tham số hoặc lớn hơn, chi phí có thể cần đầu tư lên đến hàng tỷ nhân dân tệ. Nếu không có sự hỗ trợ tài chính vững mạnh, rất khó để tiếp tục nghiên cứu và phát triển mô hình lớn.
Đối mặt với tình huống này, trong ngành thường cho rằng, khi thị trường trở nên lý tính hơn, các doanh nghiệp cũng sẽ điều chỉnh chiến lược và kiểm soát chi phí tương ứng. Một số công ty đang khám phá các phương pháp đổi mới để bù đắp cho khả năng tính toán thiếu hụt, như sử dụng dữ liệu chất lượng cao hơn để nâng cao hiệu quả đào tạo, cải thiện tính ổn định của hạ tầng, tối ưu hóa việc phân bổ tài nguyên, v.v. Cũng có doanh nghiệp lựa chọn sử dụng nền tảng nội địa thay thế cho GPU của NVIDIA trong việc đào tạo và suy diễn mô hình lớn.
Khả năng tính toán đã trở thành một mô hình dịch vụ mới trong nhu cầu thị trường và sự phát triển công nghệ. Dịch vụ khả năng tính toán dựa trên khả năng tính toán đa dạng, thông qua kết nối mạng khả năng tính toán, cung cấp nguồn cung cấp khả năng tính toán hiệu quả. Nó không chỉ bao gồm khả năng tính toán, mà còn tích hợp các tài nguyên như lưu trữ, mạng, v.v., để hoàn thành việc giao hàng khả năng tính toán dưới dạng API.
Trong chuỗi ngành công nghiệp khả năng tính toán, các doanh nghiệp thượng nguồn cung cấp nguồn tài nguyên khả năng tính toán cơ bản, các doanh nghiệp trung lưu chịu trách nhiệm sản xuất và cung cấp khả năng tính toán, trong khi các doanh nghiệp hạ nguồn dựa vào dịch vụ khả năng tính toán để phát triển các dịch vụ gia tăng giá trị. Với việc các mô hình lớn yêu cầu tính toán hiệu suất cao trở thành bình thường, dịch vụ khả năng tính toán đang nhanh chóng hình thành một chuỗi ngành công nghiệp và mô hình kinh doanh độc đáo.
Hiện tại, tính phí theo lượng và gói năm gói tháng là mô hình tính phí dịch vụ khả năng tính toán chính. Ngành cũng đang thúc đẩy "tích hợp và hợp nhất khả năng tính toán và mạng", hỗ trợ việc điều phối tài nguyên khả năng tính toán qua các kiến trúc, khu vực và nhà cung cấp dịch vụ khác nhau.
Mặc dù hiện tại GPU cao cấp đang khan hiếm và chi phí cao, nhưng đây chỉ là hiện tượng tạm thời. Về lâu dài, khả năng tính toán như một dịch vụ là xu hướng xác định. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước, điều chỉnh hướng chiến lược kịp thời khi thị trường trở lại hợp lý.