深圳1000卡昇腾910C跑通万亿模型：30% MFU背后的运维硬仗
6月5日，深圳河套学院联合华为等团队宣布，依托1000颗昇腾910C芯片组成的集群，成功完成1.6万亿参数大模型DeepSeek-V4-Pro的全参数后训练。全程1500余步无中断，故障率仅0.3‰，MFU稳定超30%。
阅读全文
Search
站内搜索
关键词：大模型
找到 295 篇相关文章
深度观察
高文院士最新观点：通专融合是AGI落地的关键路径
2026年618电商AI客服翻车暴露通用大模型垂直短板，高文院士领衔提出的“通专融合”路线引发关注。本文结合科技日报最新报告与周伯文CNCC2024演讲，拆解通用底座+专业模块的混合架构如何让医疗、制造ROI提升30%以
阅读全文
深度观察
算法岗2.5万没人要，提示词架构师8万招不到？
北京某独角兽公司的招聘后台出现了诡异的“剪刀差”：初级算法岗月薪2.5万无人问津，而能把大模型接入ERP系统的提示词架构师，月薪8万还面临空缺。这背后不是人才过剩，而是企业对AI价值的定义变了——从追求模型参数，转向了业
阅读全文iPhone 19实测：70B模型首字1.2秒，65℃后只剩妥协
实测iPhone 19 Pro Max搭载M5芯片，本地70B大模型首字响应仅1.2秒，数据不出端。但连续高负载10分钟即触65℃温控红线，延迟飙至5秒，远不及三星S26 Ultra的20分钟稳定。跨App多步任务因切换
阅读全文豆包AI 2.0上线：长文本记忆能撑住字节的大考吗
2026年2月字节跳动发布豆包大模型2.0，主打无限上下文与长期记忆。实测显示百万字文档解析准确率超92%，但端侧算力瓶颈和API适配成本让开发者头疼。面对Kimi等竞品，字节押注企业知识库，但这场大考才刚刚开始。
阅读全文苹果M4 Ultra芯片实测：端侧运行300B参数模型真的可行吗
M4 Ultra凭借32核CPU和80核GPU及统一AI任务队列，理论上可加载300B量化模型，但内存带宽和散热仍是瓶颈。本文结合iPhone 19跑70B降频教训，分析M4 Ultra在超大规模模型部署中的真实能力与局
阅读全文知识库准确率只有64%？RAG 2.0五大工程漏洞排查
企业RAG系统答非所问，平均准确率仅64%。问题不在大模型，而在数据清洗、分块、检索、重排序和提示工程五个环节。结合12家企业的实战数据，提供排查清单与代码，帮助系统准确率提升至85%以上。
阅读全文财务Agent上岗半年实录：京东物流、平安与元气森林踩过的坑
京东物流、平安科技与元气森林在部署财务Agent半年后发现，机器发票识别率虽达97.2%，但手写备注和多系统鉴权等“非标”痛点依然存在。本文还原了它们在系统架构、端侧发热及人工角色转型中的真实细节。
阅读全文苹果国行AI落地，端云混合架构实测体验如何
2026年夏天，国行版Apple Intelligence终于上线。我们用iPhone 17 Pro做了实测，看看苹果和阿里云合作的本地大模型加云端代理方案，在隐私、速度和发热上表现到底怎么样。
阅读全文A100跑大模型：Candle比PyTorch省了23%显存
一张A100 GPU，一个Llama 2 7B模型，1000次推理后得到一组数据：Candle延迟40ms，PyTorch 63ms；吞吐25比15.9 req/s；显存14.2GB比18.5GB。为什么差这么多？我们拆
阅读全文把卷积层塞进iOS 20：端侧70B模型省电30%的三个野路子
iPhone 17 Pro 本地跑 70B 模型 10 分钟就烫到降频怎么办？本文实测三种非常规优化手段：动态精度切换（保持 95% 精度功耗降 25%）、iOS 20 智能内存交换（省带宽 20%）、以及用 1x1 卷
阅读全文M5 iPad Pro本地跑30B模型，文档摘要200毫秒
搭载M5芯片的iPad Pro首次在iPadOS 19上本地运行30B参数大模型，文档摘要延迟仅200毫秒，比云端快1.2-3秒。苹果通过INT4量化将模型压缩至15GB，配合16核神经网络引擎和翻倍的内存带宽实现这一突
阅读全文