AWQ量化 - Home

AWQ量化

Qwen2.5-Coder-14B-Instruct-AWQ

开源代码生成与推理的大型语言模型

Qwen2.5-Coder-0.5B-Instruct-AWQ

Qwen2.5-Coder系列的0.5B参数代码生成模型

EXAONE-3.5-2.4B-Instruct-AWQ

LG AI Research开发的双语文本生成模型

EXAONE-3.5-32B-Instruct-AWQ

LG AI Research开发的多语言生成模型