前沿研究
RISC-V出货破百亿：端侧AI推理为何选中它？
2024年全球RISC-V芯片出货超百亿颗，30%用于AI加速。凭借模块化设计和低功耗优势，阿里玄铁C950等芯片正将千亿参数大模型推理拉入端侧，打破ARM在嵌入式领域的垄断格局。
阅读全文
Search
站内搜索
关键词：模型推理
找到 25 篇相关文章
前沿研究
Copilot+ PC实测：40 TOPS 算力背后的能效与隐私困局
2026年6月，微软定义 Copilot+ PC 标配 40+ TOPS NPU。实测显示，骁龙 X Elite 在本地 7B 模型推理中功耗仅为 x86 竞品的一半，续航优势明显。但 Recall 功能的隐私争议、NP
阅读全文H20禁令一年后：国产芯片参数亮眼，但迁移才是真门槛
英伟达H20被禁一年，国产芯片迅速补位。华为昇腾单卡推理吞吐2300 Tokens/s超越H100，平头哥真武810E性能对标H20，寒武纪思元590达A100级。但纸面参数不等于落地效果，算子支持与迁移适配才是真正的门
阅读全文苹果把AI推理搬上手机，英伟达的钱包还安全吗
WWDC 2026上，苹果宣布iOS 20将80%的AI推理任务默认在本地NPU执行，隐私数据不出设备。通过动态精度切换、智能内存交换和1x1卷积替换三个“野路子”，70B模型推理功耗降低30%，首字响应压至0.9秒。端
阅读全文MacBook实测13B模型：全精度烫手，INT8才是移动办公正解
MacBook Pro 14 M5芯片实测13B模型：全精度运行58分钟，键盘温度46℃，续航不足2小时。INT8量化后速度54 tokens/s，功耗13W，续航2小时1分，能流畅跑本地智能体工作流。量化是关键。
阅读全文本土AI芯片‘突围’再进一步：从视频压缩到端侧大模型推理，2026年技术路线图
本文深入分析2026年本土AI芯片在新兴应用场景下的技术进展与商业化动态。聚焦从传统视频压缩向端侧大模型推理的关键转型，剖析快手系芯片融资热潮背后的技术路线图，探讨国产替代在算力‘民主化’与合规压力下的战略机遇与挑战。
阅读全文从‘云边端’到‘端边云’：2026年大模型推理架构的范式转变与成本优化
本文深入分析2026年AI推理架构从‘云端中心’向‘端侧优先、云端兜底’范式转变的核心驱动因素，包括端侧芯片算力爆发、隐私合规压力及成本优化需求。文章结合最新行业案例、供应链动态与技术路径，探讨这一范式转变如何重塑企业A
阅读全文端侧大模型'手机内卷'：2026年中旗舰芯片（骁龙8 Gen4 vs 天玑9400）AI性能实测对比
本文深度实测对比2026年中高通骁龙8 Gen4与联发科天玑9400两大旗舰芯片在端侧大模型推理、多模态处理、能效比等核心维度的AI性能。通过构建典型AI应用场景，分析两款芯片对手机AI体验的革命性影响，并探讨其对个人智
阅读全文端侧大模型‘性能爆炸’：高通骁龙8 Gen4、联发科天玑9400芯片的AI算力实测与旗舰手机AI功能进化论
2026年下半年，旗舰手机芯片的AI算力迎来里程碑式跃升。本文深度解析高通骁龙8 Gen4与联发科天玑9400在端侧大模型推理上的突破性性能，实测对比其驱动实时多模态交互、个人智能体等杀手级应用的能力，并探讨芯片创新与A
阅读全文大模型推理效率‘极致优化’：2026年量化、稀疏化、投机采样等技术的最新实践与效果对比
本文系统梳理2026年大模型推理优化技术栈的最新实践，深入对比量化、稀疏化、投机采样等前沿方法在vLLM、TensorRT-LLM等框架下的实际效果。基于NVIDIA H200、GB200等最新硬件，提供详细的性能评测数
阅读全文AI芯片架构创新2026年中复盘：从通用GPU到领域专用，Arm高管的洞察与未来方向
2026年AI芯片市场高速增长，架构创新正从通用GPU向领域专用加速器快速演进。本文基于Arm高管最新洞察及行业报告，系统梳理异构计算、存算一体、专用指令集等关键创新，分析其如何应对大模型推理、端侧智能等挑战，并展望未来
阅读全文本土AI芯片突围2.0：从视频压缩到大模型推理，国产芯片的差异化竞争之路
2026年，面对英伟达、AMD的垄断格局，本土AI芯片公司正开启突围2.0阶段。本文深入分析国产芯片如何通过聚焦视频处理、特定大模型推理等细分场景实现差异化突破，探讨其生态构建、商业化前景及对全球算力格局的深远影响。
阅读全文