昇腾910C扩到万卡前,先查通信和显存
千卡训练跑通,不等于万卡可以照搬。公开参数显示,昇腾910C配备96GB HBM、1.8TB/s显存带宽和400GB/s HCCS;规模继续放大后,HCCL通信、并行切分和显存分配都要先做现场压测。
阅读全文关键词:6G
千卡训练跑通,不等于万卡可以照搬。公开参数显示,昇腾910C配备96GB HBM、1.8TB/s显存带宽和400GB/s HCCS;规模继续放大后,HCCL通信、并行切分和显存分配都要先做现场压测。
阅读全文16GB 显存可以尝试 LoRA 微调 Qwen2.5-7B-Instruct,但客服 Agent 不能只靠微调。模型选择、训练数据、知识库和业务工具需要分开处理。
阅读全文API按Token计费越来越贵,数据隐私攥在别人手里。2026年本地部署需求井喷,但RTX 5080工作站近2万,5090一卡难求。核心原则:显存决定能跑多大模型,9B量化版8G勉强16G舒服,27B要24GB。算清这笔
阅读全文华为在 MWC 2026 发布 Agentic Core,将 AI 推理和调度直接嵌入 6G 基站。面对 iPhone 17 Pro 等终端跑大模型的散热瓶颈,以及 AI Agent 带来的 EB 级流量,网络正从“传输
阅读全文