90天从A100切换到910D,我们踩过的坑和算出的账
深圳星图智能用90天完成从A100到昇腾910D的迁移。自定义算子性能骤降30%,通过Ascend C重写和HCCL拓扑调整,将损耗控制在5%以内,集群稳定率提升至99.5%。最终硬件成本降40%,综合TCO下降近35%
阅读全文关键词:算力
深圳星图智能用90天完成从A100到昇腾910D的迁移。自定义算子性能骤降30%,通过Ascend C重写和HCCL拓扑调整,将损耗控制在5%以内,集群稳定率提升至99.5%。最终硬件成本降40%,综合TCO下降近35%
阅读全文GitHub Copilot转向Token计费后,深圳电商因定价死循环在4小时内亏损52万,这一事件敲响了“免费午餐”结束的警钟。Llama 4发布一周年之际,其MoE架构虽具标杆意义,但缺乏底层算子定制导致在昇腾910
阅读全文Gemini 3.0 发布首日即接入 Google 搜索 AI 模式,凭借原生多模态架构,能直接理解复杂图表与视频细节,省去 OCR 转译。但高算力成本随之而来,深圳一跨境公司因 Agent 死循环 4 小时损失 52
阅读全文2026年6月,深圳一家跨境电商因动态折扣Agent陷入死循环,4小时消耗52万元Token费。在Copilot转向Token计费与GPU利用率不足20%的背景下,企业亟需通过零信任隔离、多智能体仲裁等手段,解决Agen
阅读全文2023年起手淘全链路应用多模态表征,历经五次迭代带动大盘CTR提升20%。从拍立淘到AIGX体系,视觉算法从“找相似”进化为“懂意图”,但搜索复杂度剧增带来算力成本飙升。面对芯片投入与合规压力,混合检索与端侧AI成为降
阅读全文2026年RPA从脚本转向AI Agent,效率提升伴随Token成本风险。深圳一电商因定价死循环亏损52万,凸显风控缺失;银行通过“RPA抓取+Agent初筛+人工复核”分层模式,将信贷初审缩至15分钟。技术无优劣,关
阅读全文深圳星图智能历时四个月,将推理服务从A100迁移至昇腾910C。团队直面CANN 7.0动态Shape Bug及HCCL拓扑差异,通过Ascend C重写关键算子并优化通信,最终实现推理成本降低45%,自定义算子损耗控制
阅读全文6月3日,博通公布2026财年Q2财报,AI芯片销售额同比暴增143%至108亿美元,但股价反跌。这标志着资本市场不再盲目追求算力规模,而是开始算细账:单卡2000瓦功耗下的液冷成本、Copilot按Token计费带来的
阅读全文2025年中,某股份制银行将GNN反欺诈系统迁移至昇腾910D时遭遇严重延迟问题。通过Ascend C定制算子优化内存访问,并利用盘古大模型生成合成数据进行量化感知训练,团队历时两个月将平均延迟压至18毫秒,同时保持高精
阅读全文2026年WWDC,库克主持最后一届大会。iOS 19重构Apple Intelligence 2.0,试图摆脱对谷歌Gemini的依赖,转向端侧NPU计算。然而,硬件算力的物理极限与开发者适配的成本,让这场隐私保卫战充
阅读全文2026年6月,深圳河套学院联合华为等团队,依托昇腾910C集群完成DeepSeek-V4-Pro全参数后训练,稳定运行超1500步。这一工程突破证实了国产芯片在极端负载下的稳定性,但从“跑通实验”到“大规模生产”,开发
阅读全文DeepSeek蒸馏模型在香橙派和玄铁C920上的快速适配,展示了端侧算力优化的方向。LPDDR5X/6的普及让手机运行量化大模型成为可能,但42℃的温度墙和能耗比限制了其实用性。端侧AI更多是隐私保护和高频轻量任务的补
阅读全文