开发者生态
千节点昇腾 910C 集群，通信究竟堵在哪里
公开材料没有给出昇腾 910C 千节点实测。能确认的是，华为 2025 年发布的昇腾 384 超节点把 384 卡纳入高速总线域。规模继续外扩后，排查重点应落在跨域通信、MoE 的 All-to-All、拓扑映射和慢节点
阅读全文
Search
站内搜索
关键词：MoE
找到 24 篇相关文章
开发者生态
技术应用
GPT-5级模型进内网，先算清三笔显存账
企业评估GPT-5级MoE模型私有化时，GPU报价只是起点。专家路由、KV Cache和FP8适配会直接影响吞吐与账单。先确认权重和授权，再用真实业务流量测试H100、昇腾910D等现有硬件，比照搬云端参数更可靠。
阅读全文
前沿研究
模型合并真有用？Llama4 开源生态变体效果横评
对Llama4社区下载量前五的变体进行逻辑、代码、长文本三维度盲测，发现合并模型在长文本上平均掉6.5个百分点，逻辑和代码增益微弱。MoE架构使参数平均法失效，针对性微调才是可靠提升路径。开发者选型应回归场景评测，警惕“
阅读全文MoE架构下放边缘设备，内存墙还在怎么破
MoE架构通过稀疏激活降低了计算量，但其庞大的参数体量在端侧设备上触发了严重的内存带宽瓶颈。本文分析MoE在手机端的“存储墙”困境，并提供KV Cache量化与专家路由控制的实操方案，帮助开发者在有限显存下跑通模型推理。
阅读全文告别单体大模型：2026年“通专融合”架构如何解决行业深水区问题
分析 2026 年 AI 架构从单体通用模型向“通专融合”的演进。探讨 MoE 动态路由如何结合通用推理与领域专家模型，解决医疗、法律等高精度场景下的幻觉问题，并结合 ZCube 等基础设施分析落地路径。
阅读全文用 Llama 4 微调企业客服模型：从数据准备到部署避坑
针对 Llama 4 的 MoE 架构，本文详细拆解如何利用 LLaMA Factory 和 Unsloth 通过 LoRA 实现企业级客服模型的微调。涵盖从 SFT 数据清洗、Rank 参数调优到 GGUF 量化部署的
阅读全文
前沿研究
Llama 4开源：4000亿参数不必每次全算
Meta于2025年4月5日发布Llama 4，Scout和Maverick已开放，Behemoth仍在训练。MoE让总参数与单次激活规模分开讨论，Scout支持1000万token上下文；至于混合注意力的具体实现，现有
阅读全文
开发者生态
从 910B 迁移到 910C：那些被忽略的算子兼容性坑位清单
一线团队踩坑实录：从昇腾910B迁移到910C，处理万亿参数MoE模型时最常见的六大算子兼容性陷阱，包括FlashAttention跨die变慢、TopK精度隐雷、显存碎片等，附2026版国产算力集群调优Checklis
阅读全文
前沿研究
MoE 架构跑通万亿参数了，但显存碎片正在拖垮推理速度
MoE 模型的万亿参数竞赛并未带来推理端的红利，反而因专家权重全量驻留引发的显存碎片化和访存瓶颈，让推理延迟居高不下。本文拆解 Llama-4 类架构下的调度难题，并结合昇腾等厂商的最新无损优化方案，探讨从算子调度到底层
阅读全文
前沿研究
通专融合的第二跳：MoE究竟解决什么问题
2024年WAIC上，周伯文将“通专融合”概括为通往AGI的战略路径。MoE能用稀疏路由组织不同能力，却只覆盖基础模型层的一段问题。路由稳定性、负载均衡、通信成本和结果校验，才决定它能否真正落地。
阅读全文
前沿研究
WAIC 2026先查账：通专融合的推理成本怎么比
WAIC 2026会前发布会披露57个核心场景和162亿元意向合作，但公开材料还不足以给Qwen3-Max、书生·万象3.0和MiCo排出成本座次。真正要比的是硬件、量化、上下文、并发和服务边界。
阅读全文
前沿研究
Llama 4.1开源了吗？300B消费级部署仍缺实证
现有材料能确认 Meta 在2025年4月推出 Llama 4，Scout 有1090亿总参数、170亿活跃参数和16个专家；但材料中没有 Llama 4.1 的官方发布信息，也没有300B模型在消费级显卡上的完整实测。
阅读全文