端侧 Agent 怎么省电?关键是少让 CPU 介入调度
端侧 Agent 的耗电不只看推理速度,还要看任务切换时 CPU 被叫醒多少次。Arm 用 CPU、GPU、NPU 分工处理不同负载;“周易”X3 公布的最低 0.5% CPU 负载,指向的是调度开销,不是整机功耗。
阅读全文关键词:低功耗推理
端侧 Agent 的耗电不只看推理速度,还要看任务切换时 CPU 被叫醒多少次。Arm 用 CPU、GPU、NPU 分工处理不同负载;“周易”X3 公布的最低 0.5% CPU 负载,指向的是调度开销,不是整机功耗。
阅读全文