llama2-7B
大语言模型QNNllama2-7B — 美格最新实测数据。
BEST · SNM980
18.485tok/s
QNN/HTP · w4a16
任务类型
大语言模型
芯片平台
7 个
跨平台性能对比
按实测指标排序，深色条为该模型最佳平台。
芯片兼容矩阵
模型 × 芯片平台 × 精度 × 推理后端 组合的实测性能。
| 芯片平台 | 精度 | 推理后端 | 性能（不含前后处理） | 报告 |
|---|---|---|---|---|
| SNM980 SM8750P (Snapdragon 8 Elite) | w4a16 | QNN/HTP | 18.485 tok/s★ | 查看 → |
| SRM975 QCM8838 | w4a16 | QNN/HTP | 17.67 tok/s | 查看 → |
| SNM982 QCS8625 | w4a16 | QNN/HTP | 15.507 tok/s | 查看 → |
| SNM983 QCS9075 / QCS9100 (SA8775P) | w4a16 | QNN/HTP | 12.612 tok/s | 查看 → |
| SRM965 QCM8538 | w4a16 | QNN/HTP | 12.033 tok/s | 查看 → |
| SNM970 QCS8550 / QCM8550 (Snapdragon 8 Gen 2) | w4a16 | QNN/HTP | 11 tok/s | 查看 → |
| SRM6690 QCM6690 (Snapdragon 6690) | w4a16 | QNN/HTP | 4.452 tok/s | 查看 → |
下载资源
SNM970
模型库/大语言模型/高通/Mobile/8550/llama2-7b_8550_android.zip
SNM970
模型库/大语言模型/高通/Mobile/8550/llama2-7b_8550_linux.zip
SNM980
模型库/大语言模型/高通/Mobile/8750/llama2-7b_8750_android.zip
SNM980
模型库/大语言模型/高通/Mobile/8750/llama2-7b_8750_linux.zip
SNM982
模型库/大语言模型/高通/Mobile/8625/llama2-7b_8625_linux.zip
SNM983
模型库/大语言模型/高通/Automotive/9075A/llama2-7b_9075_linux.zip
SNM983
模型库/大语言模型/高通/Mobile/9075/llama2-7b_9075_android.zip
SRM6690
模型库/大语言模型/高通/Mobile/6690/llama2-7b_6690_android.zip
SRM6690
模型库/大语言模型/高通/Mobile/6690/llama2-7b_6690_linux.zip
SRM965
模型库/大语言模型/高通/Automotive/8538/llama2-7b_8538_android.zip
SRM965
模型库/大语言模型/高通/Automotive/8538/llama2-7b_8538_linux.zip
SRM975
模型库/大语言模型/高通/Automotive/8838/llama2-7b_8838_android.zip