树莓派 5 跑语音助手，490ms 延迟怎么来的
树莓派 5 上用 Whisper-Tiny.en、4-bit phi-3-mini、Silero-VAD 和流式 TTS，四段处理耗时合计 490ms。但 VAD 另有 300ms 静音窗口。要复现这组结果，模型之外还得
阅读全文
Search
站内搜索
关键词：延迟优化
找到 4 篇相关文章
银行反欺诈迁移昇腾910D：从120毫秒延迟到18毫秒的工程实战
2025年中，某股份制银行将GNN反欺诈系统迁移至昇腾910D时遭遇严重延迟问题。通过Ascend C定制算子优化内存访问，并利用盘古大模型生成合成数据进行量化感知训练，团队历时两个月将平均延迟压至18毫秒，同时保持高精
阅读全文iPhone 19 运行 70B 模型实测：发热与延迟的妥协
实测显示，搭载 M5 芯片的 iPhone 19 在运行 70B 模型时，首字生成需 1.2 秒。但连续高负载 10 分钟后，因温度触及 65℃ 触发 NPU 降频，延迟飙升至 5 秒以上。Apple Intellige
阅读全文苹果自研基带梦碎，iPhone 19全系换高通骁龙X Elite
2026年6月苹果确认终止近十年自研5G基带项目，iPhone 19全系搭载高通骁龙X Elite基带，针对端侧AI低延迟优化底层网络调度，试图解决信号顽疾，但5G-A覆盖仍有局限。
阅读全文