AI 实操指南
客服 Agent 迁往昇腾 910D，先拆开推理链路
把 Llama 4 接入昇腾 910D，不是复制权重那么简单。客服 Agent 还要核对推理运行时、服务接口、工具协议和监控链路。现有素材只支持“量产传闻”，更稳妥的做法是先建基线，再逐层验证。
阅读全文
Search
站内搜索
关键词：昇腾910D
找到 46 篇相关文章
AI 实操指南
技术应用
GPT-5级模型进内网，先算清三笔显存账
企业评估GPT-5级MoE模型私有化时，GPU报价只是起点。专家路由、KV Cache和FP8适配会直接影响吞吐与账单。先确认权重和授权，再用真实业务流量测试H100、昇腾910D等现有硬件，比照搬云端参数更可靠。
阅读全文70B模型迁到昇腾910D：算子、显存和通信实录
一次从 A100 集群到昇腾 910D 的 70B 模型迁移，最耗时间的不是启动报错，而是 CPU 静默回退、HBM 碎片和 HCCL 长尾。按单卡、单机、多机逐级锁定基线，能少走不少弯路。
阅读全文8000P算力园区落地一年：入驻企业的算力利用率与成本账本
通过走访苏州、北京等地的算力园区，本文揭示了8000P级算力集群在实际运行中的利用率真相。分析入驻企业在面对国产算力迁移、调度碎片化及闲置成本时的真实账单，为AI团队提供从“追求规模”到“追求效率”的算力采购决策参考。
阅读全文昇腾910D显存溢出怎么救？实测三种轻量化量化方案的精度损失
针对国产算力集群部署中的显存瓶颈，本文实测了FP8、INT4及混合精度三种轻量化量化方案在昇腾910D上的显存节省效果与实际精度损失，并提供了一套可复用的调优Checklist，助力大模型无损落地。
阅读全文
AI 实操指南
在国产算力集群部署 Llama 4：解决多机多卡通信瓶颈的实操方案
针对 Llama 4 等开源大模型，本文给出在昇腾 910C/910D 等国产算力集群上的部署全流程，重点拆解跨节点 HCCL 通信延迟、显存碎片化与并行策略选择三大瓶颈，并附可复用的优化参数配置与排查清单。
阅读全文
AI 工具箱
昇腾910D算子别急着手调，先让编译器跑一轮
在昇腾910D部署中，自定义算子变慢时，先用CANN 8 profiling查清耗时、通信、内存和下发问题，再判断是否融合与自动搜索。以RMSNorm和Gated-SiLU为例，说明Auto-Kernel与手写Trito
阅读全文BIGAI新架构落地实测：国产算力集群延迟降低40%的路径
针对国产算力集群在多机多卡通信中的“延迟墙”问题，北京通用人工智能研究院（BIGAI）通过一套新的通信拓扑调度架构，将集群同步延迟降低了40%。本文拆解其从算子级优化到拓扑感知的技术路径，分析该突破如何降低中小开发者的训
阅读全文
产业动态
AI算力市场变局：2026第二季度融资盘点
2026年第二季度，AI融资逻辑发生根本逆转。据新华网5月报道，算力正从科学智能向工业、能源全面渗透，资本随之从“参数军备赛”转向“效率与落地”。从昇腾910D的算子调优到南方电网的毫秒级调度，再到端侧推理的内存墙突破，
阅读全文昇腾910D集群避坑：多机通信带宽瓶颈与HCCL调优实战
针对昇腾910D大规模集群训练中常见的通信瓶颈问题，本文通过实测数据分析多机AllReduce延迟原因，提供一套从拓扑感知到HCCL参数调优的实操方案，旨在将千卡集群的MFU（模型算力利用率）从30%量级提升至50%以上
阅读全文昇腾910D对比B200：这笔推理成本账还缺什么
公开素材尚不足以算出910D与B200的可信成本差值。采购价、实测吞吐、整机功耗和迁移工时缺一不可。更稳妥的办法，是把这些投入统一折算到每百万有效输出Token，再判断国产方案能否摊平适配成本。
阅读全文视频、Agent和昇腾，开发者怎么取舍
视频生成要算到成片，Agent框架要看流程能否收住，国产算力则要把迁移和运维算进去。Sora 3.5、LangGraph、AutoGen与昇腾910D的取舍，最终都落在交付成本和团队能力上。
阅读全文