前沿研究
Search
站内搜索
关键词：推理
找到 301 篇相关文章
前沿研究
前沿研究
B300和昇腾910D，先别急着算胜负
Blackwell Ultra 已把推理性能推到新的高位，但公开资料里还看不到昇腾910D可直接对标的实测数据。选型更像一道工程题：峰值、软件栈、供给、合规和成本，缺一项都不能只看宣传页。
阅读全文
前沿研究
深圳点亮14000P集群后，昇腾910C的软件护城河筑得怎样
2026年上半年，深圳14000P智算集群点亮，1000颗昇腾910C跑通万亿参数模型。硬件堆叠过关后，算子适配、异构混部等软件缝隙成为工程师的新痛点。从CANN生态到Agentic AI推理优化，国产算力正经历从跑得到
阅读全文
前沿研究
AWS生成式AI升级：从代理式系统到无服务器推理的算力账本
算力闲置和突发流量一直是大模型推理的成本痛点。亚马逊云科技通过Serverless Inference和代理式AI等新工具，重构了AI基础设施的计费与调度逻辑，帮助企业在控制成本的同时交付业务成果。
阅读全文
前沿研究
库克谢幕WWDC：苹果把AI算力死死摁在手机本地
2026年WWDC上，库克谢幕，Apple Intelligence确立端侧优先路线。设备端处理轻量任务，复杂推理交由私有云计算，苹果在智能与隐私间画下沙箱红线。
阅读全文
前沿研究
国产智算中心8000P集群实测：除H800外，谁在真正支撑推理？
北京AGI园区8000P集群实测数据显示，推理算力正成为智算中心的核心消耗。对比华为昇腾、寒武纪及海光在大规模并发下的延迟、吞吐量与能耗，揭示除H800外真正支撑推理成本的“隐形冠军”。
阅读全文
前沿研究
Siri再升级，苹果AI卡在端侧与云端之间
Apple Intelligence让Siri获得更强的跨应用能力，也把苹果的取舍摆到台前：简单任务尽量在设备端处理，复杂推理仍要借助云端模型。隐私、延迟和算力，仍是这套方案绕不开的三道题。
阅读全文
前沿研究
DeepSeek V4微调，先从Flash和数据开始
DeepSeek V4 开源后，中小团队不必一上来押注全量微调。更稳的路径是先用量化推理版验证场景，再围绕 V4-Flash、LoRA/QLoRA 和高质量行业数据做小步试验。
阅读全文
前沿研究
苹果端侧AI，NPU不是唯一答案
Apple Intelligence把AI拉回iPhone本地，但真正决定体验的，不只是一颗NPU。算力、内存、散热、云端协同和隐私边界，会一起决定它能做多远。
阅读全文
前沿研究
Siri接入Gemini，苹果AI补上哪块短板
WWDC 2026上，苹果发布接入Google Gemini的新一代Siri，并把Apple Intelligence扩展到Safari、电话、照片、日历和捷径等系统服务。苹果没有把重点放在模型参数上，而是继续押注端侧处
阅读全文
前沿研究
DeepSeek-R3之后，3B端侧小模型如何在一块手表上跑得飞快？
DeepSeek-R3等推理模型确立云端智能标杆后，3B参数小模型正借助TinyML、稀疏化和INT4量化技术，下沉至智能手表等低功耗设备。本文拆解端侧推理如何实现健康监测与隐私保护的双重跃迁，并探讨其对企业FinOps
阅读全文Arm架构拿下40% PC出货量后，端侧AI推理的算力账怎么算
Arm架构在PC和平板市场的份额突破40%，标志着AI算力从云端向边缘的重心转移。本文结合2025-2026年最新数据，拆解NPU在端侧大模型推理中的成本与延迟优势，探讨物理AI与边缘计算的落地现实。
阅读全文