美格智能 MeiG

qwen3-4B

大语言模型MEIGINEQNN

qwen3-4B — 美格最新实测数据。

BEST · SNM980
24.78tok/s
QNN/HTP · w4a16
任务类型
大语言模型
芯片平台
1 个

跨平台性能对比

按实测指标排序,深色条为该模型最佳平台。

tok/sSNM980 · QNN/HTP24.78SNM980 · MEIGINE/HTP …17SNM980 · MEIGINE/NPU14.3

芯片兼容矩阵

模型 × 芯片平台 × 精度 × 推理后端 组合的实测性能。

芯片平台精度推理后端性能(不含前后处理)报告
SNM980
SM8750P (Snapdragon 8 Elite)
w4a16QNN/HTP24.78 tok/s★查看 →
SNM980
SM8750P (Snapdragon 8 Elite)
w4a32MEIGINE/HTP + GPU17 tok/s查看 →
SNM980
SM8750P (Snapdragon 8 Elite)
w4a16MEIGINE/NPU14.3 tok/s查看 →

下载资源

Q4_0
模型库/llamacppgguf/qwen/qwen3/qwen3-4b/qwen3-4b-Q4_0.gguf
下载
Q4_0-UNTIED-Q8_0
模型库/llamacppgguf/qwen/qwen3/qwen3-4b/qwen3-4b-Q4_0-untied-q8_0.gguf
下载
eagle3 · Q4_0
模型库/llamacppgguf/qwen/qwen3/qwen3-4b/Qwen3-4B-eagle3-Q4_0.gguf
下载

相关示例应用

暂无关联示例。