AI 纪元 追踪人工智能最新进展,深度解读前沿技术

昇腾910D进银行旁路,卡在压测之后

一家股份制银行在深圳完成昇腾910D信用卡风控旁路压测,P99延迟做到1.2毫秒。但节点隔离、模型迁移和监控接入暴露出工程短板,投产窗口从三季度推迟到四季度。

1 次阅读 约 2192 字 4 分钟 AI 生成
昇腾910D进银行旁路,卡在压测之后 cover image
昇腾910D进银行旁路,卡在压测之后 cover image

2026年4月,一家股份制银行在深圳完成了一轮昇腾910D信用卡风控旁路压测。

单看结果,数字不差:P99延迟做到1.2毫秒,比此前英伟达T4方案低0.3毫秒。放在AI推理场景里,这已经够写进汇报材料。

但压测报告翻到后半段,项目排期没有往前走。原本计划三季度投产,后来改到四季度。

银行IT团队真正卡住的,不是单次推理速度,而是几件更贴近生产的问题:节点坏了能不能马上摘掉,模型迁过去会不会变形,旧监控能不能读懂新芯片的状态。

一块NPU宕机,请求堵了30秒

银行系统怕故障扩散。即使只是信用卡风控旁路,也不能让一个计算节点异常,把上游交易请求拖住。

这次测试里,一块NPU因为内存错误宕机后,推理链路出现请求堆积,持续超过30秒。直到负载均衡器超时,这个节点才被踢掉。

同等规模的英伟达集群里,节点异常到自动隔离通常只要5秒。

差距出在故障检测上。电子工程专辑援引《华尔街日报》报道称,昇腾910D仍处于开发初期,华为已接洽多家国内科技企业共同推进测试。落到这家银行的环境里,昇腾软件栈的故障检测更多依赖上层应用主动轮询,原有健康检查脚本不能直接复用。

运维团队只能重写脚本,并给每个推理任务补独立熔断器。这类工作不显眼,但在银行系统里很关键。隔离慢几秒,影响就可能从一台机器传到一段链路。

模型能跑,验收没那么快

这家银行原先在英伟达GPU上跑多类风控模型,包括XGBoost和深度网络。迁到昇腾910D后,PyTorch适配层基本可用,但几个关键场景的模型精度下降了0.1%到0.3%。

放在信用卡反欺诈里,这不是可以随手抹平的小数。0.1%的误杀,可能对应每天多出几百笔无效拒绝,手续费收入和客户体验都会被牵连。

加载时间也变了。

一个中等规模BERT模型,在英伟达GPU上重新加载约两分钟;迁到昇腾910D后,因为CANN的内存管理差异,首次加载超过一刻钟。后续优化后降到五分钟,但遇到节点重启,冷启动时间仍然偏长。

银行生产变更通常压在深夜两小时窗口内。模型加载从两分钟变成五分钟,单独看不算夸张;放进容灾演练、回滚、复核流程里,就会挤占本来已经很紧的操作时间。

监控系统没有第一时间响

金融IT的监控栈相对固定,Prometheus、ELK、SNMP都是常见配置。问题在于,昇腾910D暴露指标的方式和英伟达不同。

温度、功耗、显存带宽等信息通过厂商私有API输出。要接进现有Prometheus Exporter,需要额外开发插件。

测试期间,NPU利用率已经上升,原有告警规则却没有触发。原因很直接:昇腾的细粒度指标,比如AI Core占用率,没有映射到系统已有告警模板。

运维团队花了两周,把关键指标分批接入。即便如此,告警延迟仍比英伟达集群高出几秒。还有一次内存泄漏,底层指标已经异常20分钟,但直到应用层报错才被发现。

在互联网业务里,这类问题还能靠灰度和快速迭代慢慢消化。银行不太一样。监控没有及时响,值班人员就少了一道提前处置的机会。

参数好看,离生产还差工程账

从公开资料看,昇腾910D的硬件参数并不弱。知乎专栏资料称,昇腾910D采用芯粒(Chiplet)技术,FP16算力达800 TFLOPS。

21世纪经济报道提到,昇腾CloudMatrix 384由384个昇腾NPU、192个鲲鹏CPU联接而成,Pangu Ultra的后训练基于这一超级计算单元。

外部环境也在推高国产算力的优先级。九方智投信息显示,2025年5月13日,美国商务部宣布撤销拜登政府2025年初发布的《人工智能扩散规则》,并计划制定替代规则;BIS同时发布三份指导文件,加强对海外AI芯片出口管控。

这些变化会让银行更愿意评估国产算力。但从采购意愿到生产可用,中间还有一段工程距离。

经济观察报《华为算力“开链”》提到,2026年4月15日,英伟达CEO黄仁勋接受美国科技播客主持人帕特尔专访时谈到中国AI。他说,如果像DeepSeek这样的成果先在华为平台出现,对美国会是“非常糟糕的结果”。

这至少说明,华为算力平台已经被国际竞争者认真看待。

不过,银行机房里要解决的问题更细:CUDA换成CANN后,已有模型怎么验收;监控字段怎么对齐;节点异常时谁先发现;凌晨重启后能不能自动恢复;一笔交易会不会被拖住。

投产后移,不是因为跑分不够

这家银行把昇腾910D投产计划从三季度推迟到四季度,主要原因是故障隔离、任务迁移、监控接入还没有完全补齐。接下来要做的工作包括补故障隔离插件、优化模型迁移脚本、完成全量监控接入。

这些事不涉及硬件改动,却都贴着银行核心系统的红线。每新增一个插件,都要经过测试、变更、审计;每改一条告警规则,都要确认不会误报,也不会漏报。

所以,昇腾910D进银行旁路后,最值得看的不是1.2毫秒这个延迟数字。至少在这次测试里,推理性能已经过了第一关。更难的是压测之后:故障能不能被隔离,模型能不能稳定迁移,监控能不能在应用报错之前发现异常。

不少金融机构正在重新评估国产替代节奏,路径更偏谨慎:旁路先行,核心再跟进。对银行来说,算力替换最终不是换掉一张卡,而是深夜两点节点自动重启时,不影响任何一笔交易。

(文中测试数据来源于该银行内部技术复盘;芯片参数及产业信息参考知乎专栏、电子工程专辑、九方智投、经济观察报、21世纪经济报道等公开资料。)

相关阅读