Модель INT4 для обновленного Qwen3-235B-A22B:


vLLM MoE, похоже, работает не очень хорошо; однако трансформеры HF могут р…
NOT-7.88%
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 5
  • Поделиться
комментарий
0/400
OnchainSnipervip
· 07-23 01:55
Что еще за квантование? Не надо ничего выдумывать.
Посмотреть ОригиналОтветить0
LiquidityWitchvip
· 07-23 01:53
Кто разберётся с этим?
Посмотреть ОригиналОтветить0
SchrodingerAirdropvip
· 07-23 01:51
Слишком много мучений, попробовал и попал в ловушку.
Посмотреть ОригиналОтветить0
MetadataExplorervip
· 07-23 01:35
Пробовал 50 раз, но не смог запустить.
Посмотреть ОригиналОтветить0
Web3ExplorerLinvip
· 07-23 01:32
хм, похоже, что моэ сейчас переживает квантовый момент
Посмотреть ОригиналОтветить0
  • Закрепить