视觉语言模型

SNM982 × LFM2.5-1.2B-Instruct

QNN · — · 测试环境：qnn_android · NPU_Q4

LFM2.5-1.2B-Instruct @ SNM982 QNN/HTP 39.10 tok/s

推理指标（纯模型推理耗时，不含前后处理流程）

39.10 tok/s

Prefill

193.80 tok/s

Decode

39.10 tok/s

内存占用

870.4 MB

原始值 0.85 GB

设备侧采样：峰值与全程平均分开给出，CPU / GPU 为整机占用，NPU 按 q6 / HVX / HMX 分单元统计。

CPU

峰值

6.3%

平均

6.3%

NPU

峰值

0.89%