SGLang hiện đã hỗ trợ Hugging Face Transformers như một backend!



Chạy bất kỳ mô hình tương thích với transformers nào với hiệu suất nhanh, đạt chuẩn sản xuất.
FAST-0.4%
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 6
  • Chia sẻ
Bình luận
0/400
SigmaValidatorvip
· 06-23 20:50
Cuối cùng đã hỗ trợ hf! Mong đợi đã lâu.
Xem bản gốcTrả lời0
ImpermanentPhilosophervip
· 06-23 20:48
Hỗ trợ HF rồi? Lần này bá đạo
Xem bản gốcTrả lời0
SerumSqueezervip
· 06-23 20:46
Con ếch bò này cuối cùng đã bình luận.
Xem bản gốcTrả lời0
OffchainWinnervip
· 06-23 20:44
Mở hộp là sử dụng ngay, cuối cùng cũng đã mong đợi.
Xem bản gốcTrả lời0
BasementAlchemistvip
· 06-23 20:42
Ôi, anh em thật là tuyệt vời!
Xem bản gốcTrả lời0
PebbleHandervip
· 06-23 20:37
Ôi lại là backend trf, sao mà ngày nào cũng phải lộn xộn với framework.
Xem bản gốcTrả lời0
  • Ghim
Giao dịch tiền điện tử mọi lúc mọi nơi
qrCode
Quét để tải xuống ứng dụng Gate
Cộng đồng
Tiếng Việt
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)