huawei-csl/Qwen3-1.7B-3bit-ASINQ
Text Generation
•
0.5B
•
Updated
•
16
•
7
SINQ
This collection contains the models quantized with the SINQ quantization method.
-
-
huawei-csl/Qwen3-1.7B-3bit-SINQ
Text Generation • 0.5B • Updated • 12 • 7 -
huawei-csl/Qwen3-14B-3bit-ASINQ
Text Generation • 3B • Updated • 18 • 5 -
huawei-csl/Qwen3-14B-3bit-SINQ
Text Generation • 3B • Updated • 11 • 5 -
huawei-csl/Qwen3-32B-3bit-SINQ
Text Generation • 6B • Updated • 12 • 6 -
huawei-csl/Qwen3-1.7B-4bit-ASINQ
Text Generation • 1B • Updated • 11 • 5 -
huawei-csl/Qwen3-32B-3bit-ASINQ
Text Generation • 6B • Updated • 13 • 5 -
huawei-csl/Qwen3-1.7B-4bit-SINQ
Text Generation • 1B • Updated • 13 • 5 -
huawei-csl/Qwen3-14B-4bit-SINQ
Text Generation • 9B • Updated • 13 • 5 -
huawei-csl/Qwen3-14B-4bit-ASINQ
Text Generation • 9B • Updated • 13 • 6 -
huawei-csl/Qwen3-32B-4bit-SINQ
Text Generation • 18B • Updated • 13 • 7 -
huawei-csl/Qwen3-32B-4bit-ASINQ
Text Generation • 18B • Updated • 12 • 8 -
huawei-csl/Qwen3-235B-A22B-3bit-SINQ
Text Generation • Updated • 9 • 2 -
huawei-csl/Apertus-8B-2509-4bit-ASINQ
Text Generation • 5B • Updated • 15 • 2 -
huawei-csl/Apertus-8B-2509-4bit-SINQ
Text Generation • 5B • Updated • 10 • 2 -
huawei-csl/Qwen3-Next-80B-A3B-Instruct-4bit-SINQ
Text Generation • Updated • 88 • 2 -
huawei-csl/Kimi-Linear-48B-A3B-Instruct-4bit-SINQ
Text Generation • 27B • Updated • 32 • 3 -
huawei-csl/Kimi-Linear-48B-A3B-Instruct-3bit-SINQ
Text Generation • 7B • Updated • 22 • 1 -
huawei-csl/Qwen3-Next-80B-A3B-Instruct-3bit-SINQ
Text Generation • Updated • 13 • 2