前沿研究
手机端能效反超云端？Arm 2026新预测揭开端侧AI真相
2026年初，Arm发布20项技术预测，指出计算重心正从云端向边缘转移。随着Kleidi指令集优化异构计算，iPhone 19、小米16等机型在处理多模态任务时展现更高能效。相比云端GPU的高功耗与合规风险，端侧推理凭借
阅读全文
Search
站内搜索
关键词：推理
找到 301 篇相关文章
前沿研究
Copilot+ PC实测：40 TOPS 算力背后的能效与隐私困局
2026年6月，微软定义 Copilot+ PC 标配 40+ TOPS NPU。实测显示，骁龙 X Elite 在本地 7B 模型推理中功耗仅为 x86 竞品的一半，续航优势明显。但 Recall 功能的隐私争议、NP
阅读全文AGI大会后的冷思考：医疗AI如何跨过“幻觉”这道坎
2026年6月上海AGI大会上，1000颗昇腾910C跑通万亿参数模型，展示了工程能力的极致。但在医疗诊断中，通用大模型的“幻觉”是致命伤。联影智能提出从“感知”到“专业”的进化路径，商汤林达华强调多模态是基石但需夯实。
阅读全文
前沿研究
苹果2.7版AI实测：告别发烫，A19与VC均热板的协同
WWDC2026上，Apple Intelligence 2.7随iPhone 19系列发布。实测显示，Pro Max连续推理15分钟核心温度控制在65℃左右，得益于A19芯片能效优化与全新VC均热板。尽管第三方API依
阅读全文AI Agent落地算账指南：四层成本与三大场景ROI实测
2026年618，客服Agent集体翻车，退货率飙升15%，损失千万；另一家却用80万换来半年省200万。差距在算账。基于Q2实测数据，拆解开发、数据、推理、合规四层成本，提供分桶ROI模型，附客服、财务、法务算账案例，
阅读全文昇腾910C大规模部署实录：国产算力集群的兼容性痛点
2026年6月，深圳河套学院宣布基于昇腾910C完成1.6万亿参数模型训练，硅基流动与华为的论文显示CloudMatrix384集群推理性能超越H100。但同期一家头部电商的推荐模型迁移却遭遇算子缺失、通信瓶颈、软件栈碎
阅读全文RISC-V AI芯片产量将破162亿颗，开发者迁移实测指南
2025年武汉大会发布国产RISC-V服务器芯片。全球产量预计超162亿颗，AI推理占比攀升。平头哥、嘉楠科技等公司方案已商用，成本优势明显。本文提供从ARM迁移到RISC-V的实战步骤和常见坑点。
阅读全文iPhone 19 端侧跑 70B 模型：快、烫，且会算错数
在弱信号电梯里拆封即测iPhone 19 Pro Max的Apple Intelligence 2.0。70B模型首字1.2秒，离线全功能可用。但持续生成10分钟，手机发烫、降频至2.8秒，逻辑题答错两道。轻任务够用，复
阅读全文AI对话记不住？RAG 2.0正在用图数据库修复任务记忆
传统RAG在多轮对话中准确率从78%跌至53%。RAG 2.0引入图数据库和分层记忆，让AI追踪任务状态。电商客服首轮完成率从42%提升至78%，保险理赔逻辑推理准确率从不足50%升至91%。拆解技术原理与落地挑战。
阅读全文M5芯片跑128B模型：实测结果和未来展望
iPhone 19 Pro Max的M5芯片运行128B模型，首字延迟2.1秒，连续推理12分钟后速度腰斩，瓶颈在内存带宽，苹果的分层调度方案可能是最优解
阅读全文昇腾910D金融风控压测实录：吞吐、延迟与迁移成本
2026年6月，某股份制银行在实时风控系统上完成昇腾910D集群压测。单卡推理吞吐2500 TPS，p99延迟6.8ms，达到A100的83%。但集群通信、算子迁移和稳定性仍有差距。实测数据对比A100/H100，梳理C
阅读全文GraphRAG实战：用轻量级图谱把准确率从64%拉到89%
纯向量RAG在逻辑推理题上准确率不到50%。2026年，保险公司用LangChain+Neo4j搭了一套GraphRAG混合架构，三步搭完，整体准确率从64%升到91%。本文拆解查询路由、双通道检索、结果融合的落地细节，
阅读全文