Llama 4国产适配实测：性能差距、成本对比与迁移指南
昇腾910D跑Llama 4 70B首字延迟2.3秒，是A100的3倍。单卡吞吐达A100的83%，但集群通信和算子适配仍是短板。自建集群和调用API成本差距悬殊：日均百万请求，自研年运维17万，API要365万。文中还
阅读全文
Search
站内搜索
关键词：迁移
找到 125 篇相关文章
昇腾910D金融风控压测实录：吞吐、延迟与迁移成本
2026年6月，某股份制银行在实时风控系统上完成昇腾910D集群压测。单卡推理吞吐2500 TPS，p99延迟6.8ms，达到A100的83%。但集群通信、算子迁移和稳定性仍有差距。实测数据对比A100/H100，梳理C
阅读全文910C千卡实测：效率跌三成，Blackwell Ultra还要等
一家200亿美元AI公司实测华为910C千卡集群，训练速度只有预期67%。通信带宽（HCCS 100GB/s vs NVLink 900GB/s）和软件迁移是主因。英伟达Blackwell Ultra性能翻倍但交付或延至
阅读全文H20禁令一年后：国产芯片参数亮眼，但迁移才是真门槛
英伟达H20被禁一年，国产芯片迅速补位。华为昇腾单卡推理吞吐2300 Tokens/s超越H100，平头哥真武810E性能对标H20，寒武纪思元590达A100级。但纸面参数不等于落地效果，算子支持与迁移适配才是真正的门
阅读全文实测昇腾910C与寒武纪MLU590迁移Llama-3的代价
2026年6月，我们实测了Llama-3-8B和Qwen2.5-72B从A100迁移到昇腾910C与寒武纪MLU590的过程。昇腾FlashAttention需重写，性能降22%；寒武纪滑动窗口注意力有bug，延迟增35
阅读全文华为910C与寒武纪MLU590：我们实测了PyTorch迁移的全程
我们花了两周时间，把ResNet-50、Whisper、Llama-3三个模型迁移到华为昇腾910C和寒武纪MLU590上。从驱动安装、算子适配到性能压测，记录了所有高频报错和性能数据，包括与A100的对比。
阅读全文A100跑大模型：Candle比PyTorch省了23%显存
一张A100 GPU，一个Llama 2 7B模型，1000次推理后得到一组数据：Candle延迟40ms，PyTorch 63ms；吞吐25比15.9 req/s；显存14.2GB比18.5GB。为什么差这么多？我们拆
阅读全文H200停产后，国产芯片谁能扛训练？
英伟达H200在2026年Q2停产，出口管制升级让卡价涨到15万以上。华为昇腾910C、寒武纪思元590、海光DCU——三者谁能在训练任务中真正替代H200？我们基于千卡集群实测数据、迁移成本和总拥有成本给出了具体判断。
阅读全文iPhone 19 运行 70B 模型实测：发热与延迟的妥协
实测显示，搭载 M5 芯片的 iPhone 19 在运行 70B 模型时，首字生成需 1.2 秒。但连续高负载 10 分钟后，因温度触及 65℃ 触发 NPU 降频，延迟飙升至 5 秒以上。Apple Intellige
阅读全文Rust 重写推理引擎：一场正在发生的语言迁移
2026 年的 AI 重心从参数规模转向单位经济，推理延迟和内存安全成为新的硬约束。PyTorch 插件、昇腾算子、端侧部署这些场景里，Rust 正在悄悄替换 C++ 和 Python，背后是 GIL 瓶颈和 OOM 这
阅读全文昇腾910C交付实测：从“跑不通”到“省成本”的迁移账本
2026年6月，昇腾910C季度交付破10万卡，但开发者面临CUDA迁移阵痛。实测显示，未经适配性能损耗可达30%，招行等案例通过CANN 7.0补丁将损耗压至10%。虽然液冷方案解决稳定性问题，但小团队需权衡隐性迁移成
阅读全文昇腾910C vs 海光DCU：128卡集群实测，算清适配这笔账
2026年二季度，国产芯片在头部云厂商招标中占比升至35%。我们对东部某云厂商的128卡集群进行实测：昇腾910C在PyTorch适配和稳定性上优势明显，自定义算子迁移仅改21行代码；海光DCU K100虽时租低55%，
阅读全文