量化模型 - Home

量化模型

Meta-Llama-3-120B-Instruct

一个用于创意写作的大型语言模型，具有出色的写作风格。Meta-Llama-3-120B-Instruct官网入口网址

Qwen2.5-Coder-0.5B-Instruct-GGUF

Qwen2.5-Coder系列中的0.5B参数指令调优模型

Llama-3-Patronus-Lynx-8B-Instruct-Q4_K_M-GGUF

基于特定模型的量化大型语言模型，适用于自然语言处理等任务。

EXAONE-3.5-2.4B-Instruct-GGUF

LG AI Research开发的双语文本生成模型

glider-gguf

高性能的量化语言模型

Llama-Lynx-70b-4bit-Quantized

70亿参数的量化文本生成模型