搜索: INT8量化

2026-06-29 22:10:42 0 阅读

2025年中，某股份制银行将GNN反欺诈系统迁移至昇腾910D时遭遇严重延迟问题。通过Ascend C定制算子优化内存访问，并利用盘古大模型生成合成数据进行量化感知训练，团队历时两个月将平均延迟压至18毫秒，同时保持高精

2026-06-29 06:47:01 0 阅读

2026年6月9日，库克主持最后一届WWDC，Apple Intelligence 2.7发布。全新Siri引入Google大脑，但受限于数据合规，国行iPhone 19仍无法使用。与此同时，百度、阿里、科大讯飞等国内厂

2026-06-27 18:40:42 0 阅读

MacBook Pro 14 M5芯片实测13B模型：全精度运行58分钟，键盘温度46℃，续航不足2小时。INT8量化后速度54 tokens/s，功耗13W，续航2小时1分，能流畅跑本地智能体工作流。量化是关键。

2026-06-27 04:34:58 0 阅读

跑了半年端侧模型，三星S26 Ultra通话翻译22分钟续航不崩，MacBook M5跑13B模型键盘飙到46℃。结论不浪漫：手机AI的瓶颈不在TOPS，而在内存带宽和散热。量化能救一半，手表那1W功耗墙基本无解。

站内搜索