技术应用
端侧32B模型上车：手机散热与功耗的隐形天花板在哪？
骁龙8 Gen 5手机实测显示，INT4量化32B模型运行十分钟后，生成速度从8 token/s跌至3 token/s。本文对比RTX Spark的45—80W主动散热与手机的被动极限，剖析内存墙与NPU架构的真实瓶颈，
阅读全文
Search
站内搜索
关键词：实测
找到 248 篇相关文章
技术应用
前沿研究
手机能跑32B，但端侧推理更需要通专融合
一组实测里，24GB 内存的骁龙 8 Gen 5 手机运行 INT4 量化 32B 模型，十分钟后从每秒 8 token 降到 3 token。端侧部署该比的，不只是参数量，而是底座常驻、插件路由、内存搬运和芯片适配能否
阅读全文
前沿研究
GPT-5 上线三周，长上下文优势还不能下定论
GPT-5 上线三周后，公开材料只给出有限信号：一则实测认为它的理解和一致性更好，Gemini 2.5 Pro 的逻辑更强；SWE-Bench 汇总分数也偏向 GPT-5。多模态长上下文仍需同输入、同配置复测。
阅读全文昇腾910D集群避坑：多机通信带宽瓶颈与HCCL调优实战
针对昇腾910D大规模集群训练中常见的通信瓶颈问题，本文通过实测数据分析多机AllReduce延迟原因，提供一套从拓扑感知到HCCL参数调优的实操方案，旨在将千卡集群的MFU（模型算力利用率）从30%量级提升至50%以上
阅读全文3B模型在端侧能跑多少个Agent？实测不同量化方案的推理损耗
针对2026年主流的3B级端侧模型（如商汤Sage、vivo蓝心3B），实测在Arm v10架构设备上运行3-5个垂直Agent时的内存占用与延迟。对比INT4与FP8量化方案，分析在多Agent协作场景下的精度掉点与资
阅读全文
开发者生态
从CUDA迁到昇腾910C的第三个月，三个性能坑才露出来
团队把基座模型微调从英伟达A100迁到8卡昇腾910C的Atlas 800。三个月后，最耗时的不是改接口，而是复合算子、显存碎片和跨机AllReduce。附内部实测与九项检查清单。
阅读全文
前沿研究
Arm v10样片实测：SME2把Prefill提速3.2倍
Arm v10工程样片测试中，SME2让Llama-3-3B 4-bit版Prefill速度较v9提升3.2倍，首字延迟由约1.2秒降至400毫秒以内；Decoding加速约1.4倍，10B模型持续运行仍受发热和功耗约束
阅读全文
前沿研究
端侧AI模型续航测试：3B参数跑在手机上，一天几充
2026年7月实测显示，端侧3B模型日均待机耗电约1.5%-2%，重度Agent调用下续航减半。量化、剪枝等轻量化方案虽降低峰值功耗，但需配合NPU调度优化才能解决发热焦虑。本文拆解vivo蓝心、小米澎湃等主流模型的功耗
阅读全文昇腾910D对比B200：这笔推理成本账还缺什么
公开素材尚不足以算出910D与B200的可信成本差值。采购价、实测吞吐、整机功耗和迁移工时缺一不可。更稳妥的办法，是把这些投入统一折算到每百万有效输出Token，再判断国产方案能否摊平适配成本。
阅读全文
前沿研究
Arm v10 架构在端侧AI的实测：手机运行 10B 模型还发烫吗
2026年7月实测表明，手机运行10B参数模型已从「不能跑」跨到「可以跑」，但发烫问题并未消失。得益于NPU调度、稀疏激活与指令集优化，持续推理功耗降至4.8W，温度约45℃；但Agent场景连续调用仍会堆积热量。文章引
阅读全文B200、昇腾910C与RISC-V，争的不是同一笔订单
把三者放进同一张峰值算力榜，采购很容易算错。B200的门槛在CUDA迁移成本，昇腾910C要过算子与集群交付关，RISC-V则应在内存、功耗和散热受限的端侧设备上实测。
阅读全文
AI 工具箱
Sora、可灵与Runway Gen-4，商业视频怎么选
一条样片好看，不代表它适合商业生产。Sora更偏长叙事与世界一致性，Runway Gen-4强调创意控制，可灵需要放进中文工作流实测。选型别只盯单次价格，还要算返工、编辑、审核和交付。
阅读全文