开发者生态
2026 手机端侧 3B 模型实测：内存压力与推理速度的真实平衡点
基于 2026 年主流旗舰机型（骁龙 8 Elite、天玑 9400、A18 Pro）的连续跑测数据，对比 Qwen2.5-3B、Llama-3.2-3B 与 Gemma-3-3B 在 4-bit 与 6-bit 量化下
阅读全文
Category
开发者生态
关注开源工具、模型部署、性能优化及开发者社区动态，服务技术从业者。
164
篇文章
开发者生态
开发者生态
千节点昇腾 910C 集群，通信究竟堵在哪里
公开材料没有给出昇腾 910C 千节点实测。能确认的是，华为 2025 年发布的昇腾 384 超节点把 384 卡纳入高速总线域。规模继续外扩后，排查重点应落在跨域通信、MoE 的 All-to-All、拓扑映射和慢节点
阅读全文昇腾910C推理提速43%？这组数据还缺关键条件
公开材料确认，昇腾910C集群已完成1.6万亿参数DeepSeek-V4-Pro全参数后训练；但没有给出CANN 8.0.RC2升级前后的推理对照。43%吞吐提升和29%显存下降，仍需补齐模型分片、精度、并行方式与测试日
阅读全文2026年用AI重构遗留代码，先把验证成本算进ROI
Cursor、Copilot、通义灵码能做仓库级修改，但遗留项目不能只算生成速度。上下文准备、人工审查、回归测试、合规接入和失败回退都要记入总工时，再用可回滚的小任务决定是否扩围。
阅读全文把开源模型搬进边缘网关，低延迟只是第一关
RK3588 一类边缘网关能否承接 3B—7B 模型，关键在内存预算、量化格式、NPU 算子和回退路径。适合本地部署的，是数据敏感、网络不稳、请求稳定且任务边界清楚的工业场景；复杂请求仍可交给云端。
阅读全文MoE架构下放边缘设备，内存墙还在怎么破
MoE架构通过稀疏激活降低了计算量，但其庞大的参数体量在端侧设备上触发了严重的内存带宽瓶颈。本文分析MoE在手机端的“存储墙”困境，并提供KV Cache量化与专家路由控制的实操方案，帮助开发者在有限显存下跑通模型推理。
阅读全文
开发者生态
11520张昇腾910C并行，训练抖动先查哪条链路
11520张昇腾910C接入同一集群后，单个慢节点、端口错误或集合通信阻塞，都可能把等待扩散到整个任务。排查要把训练时间线、HCCL算子和交换机端口指标对齐，再决定是否调整通信算法、超时策略和任务编排。
阅读全文3B模型能省多少云端成本，先把这笔账算对
2026年，推理需求增长和算力租赁涨价把企业重新推向端侧。3B级模型适合处理纠错、分类和请求路由，把复杂任务留给云端。它能省多少，取决于本地完成率、云端重试、设备功耗和维护成本，不能只凭参数量估出固定降幅。
阅读全文
开发者生态
昇腾 910C 算子调优：先把数据搬运压下来，再谈自定义算子
长上下文推理变慢，不一定是算力不足，数据搬运、临时张量和算子下发也可能占大头。围绕昇腾 910C，梳理如何用 profiling 判断是否值得写 Ascend C 自定义算子，并处理 32 字节对齐、Tiling、融合和
阅读全文
开发者生态
昇腾 910C 迁移实录：从代码报错到性能调优的避坑指南
基于昇腾 910C 真实迁移项目，记录从 PyTorch 模型迁移到华为 NPU 环境的全过程，涵盖算子兼容性处理、内存优化、通信调优及常见报错排查，提供可复现代码片段，结合出货量数据与实战经验，为开发者提供一份避坑清单
阅读全文开源模型进生产环境，别只盯着榜单和跑分
Qwen、DeepSeek-R1、Llama进入候选名单，不等于可以直接上线。商用评审真正要查的是具体版本的许可边界、仓库维护、目标硬件实测、Tool Calling失败处理，以及微调后的持续回归。
阅读全文
开发者生态
迁移昇腾 910C/910D，先查算子、显存和 HCCL
把 CUDA/PyTorch 项目迁到昇腾 910C/910D，常见卡点集中在自定义算子与动态 Shape、显存碎片、HCCL 多卡通信。文章按排查顺序给出配置示例，并说明哪些参数只能用于定位，不能代替根因分析。
阅读全文