视觉语言模型
SNM982 × LFM2-700M
QNN · — · 测试环境：qnn_android · NPU_Q4
LFM2-700M @ SNM982 QNN/HTP 53.50 tok/s
推理指标（纯模型推理耗时，不含前后处理流程）
53.50 tok/s
Prefill
216.50 tok/s
Decode
53.50 tok/s
内存占用
614.4 MB
原始值 0.60 GB
资源占用率
设备侧采样：峰值与全程平均分开给出，CPU / GPU 为整机占用，NPU 按 q6 / HVX / HMX 分单元统计。
CPU
峰值
5.59%
平均
5.59%
NPU
峰值
0.86%
关联信息
- 模型
- LFM2-700M
- 芯片平台
- SNM982
- 芯片
- QCS8625
- 推理框架
- QNN
- 量化精度
- —
- 测试日期
- 2026-09-08