2025年4月，国家网信办一纸禁令，英伟达H20因“远程关闭”等安全漏洞被彻底禁用。一年过去，英伟达在中国高端AI芯片市场的份额从2022年的95%归零（来源：什么值得买）。与此同时，国产芯片全面接棒。
华为昇腾CloudMatrix 384超节点实测单卡推理吞吐达2300 Tokens/s，官方称超越英伟达H100。阿里平头哥“真武810E”性能对标H20，已在万卡集群部署。寒武纪思元590则对标A100级别。此外，央视曾曝光7款自主研发AI芯片，其中平头哥PPU性能直追H20（来源：unwire）。这些数字构成了替代的底气，但真正落到工程上，纸面参数只是第一关。
从成熟的NVIDIA GPU生态迁移到国产芯片，首先迎头撞上的是算子兼容问题。据《AI芯片推理适配踩坑记》总结，改写上层代码不是最痛苦的，真正的瓶颈在于算子缺失——要么重新实现，要么等官方补丁。华为CANN算子库支持的算子种类较多，覆盖主流模型；平头哥的软件栈在持续完善；而寒武纪的算子库更新较慢，且动态形状编译错误频发。有工程师直言：“最大的成本不是代码改动，而是理解新芯片的‘脾气’和文档里没说的限制。”
开发者体验也参差不齐。华为得益于CANN和社区，入门相对平滑；平头哥的编译器自动化程度高，快速跑通容易，但排查底层问题时工具链不足；寒武纪首次部署往往要花大量时间解决编译错误。这些隐形成本，在只看FLOPS的选型报告中很容易被忽略。
不过，软件优化确实能填补部分硬件差距。今年4月，讯飞发布星火X1深度推理模型，算力构成全国产化。仅用4张华为卡，在模型参数比业界同类小一个数量级的情况下，整体效果对标业界最高水平（来源：量子位）。这证明通过模型精简和算子定制，国产芯片也能跑出顶级表现。
所以选型不能只看算力。华为昇腾适合追求高吞吐且能接受平台绑定的团队；平头哥适合已有阿里云、需要深度定制的用户；寒武纪适合愿意投入人力的成熟团队。但无论哪种，拿自己的模型跑一次端到端测试，比看任何浮点算力都可靠。国产芯片在推理场景已从“有没有”走到“好不好用”，但距离完全无感替代还有距离。H20退场清除了市场准入的障碍，而真正的挑战，才刚刚开始。