小米 SU8 端侧大模型首测:车机对话断网还能聊几轮
小米SU8搭载的端侧大模型在隧道、地下车库等断网场景下实测:连续对话续航超过40轮,响应延迟稳定在580毫秒以内,功耗增幅控制在8%以下。对比蔚来NOMI云端方案和理想Mind GPT混合架构,SU8的离线能力优势明显,
阅读全文关键词:大模型
小米SU8搭载的端侧大模型在隧道、地下车库等断网场景下实测:连续对话续航超过40轮,响应延迟稳定在580毫秒以内,功耗增幅控制在8%以下。对比蔚来NOMI云端方案和理想Mind GPT混合架构,SU8的离线能力优势明显,
阅读全文荣耀用低bit量化缩小模型、提高推理速度,Nexa AI则试图降低跨芯片部署成本。端侧AI能否真正进入手机日常,还要看相册搜索、输入法和离线翻译是否够快、够稳,也不能太耗电。
阅读全文唐杰、杨植麟、林俊旸、姚顺雨在AGI-Next峰会同台。参数规模之外,Token效率、长上下文、Agent成本和落地速度,正在成为中国大模型竞争的新坐标。
阅读全文周伯文提出,AGI的高价值区域要求模型兼具泛化能力与专业性。放到医疗、金融场景,通专融合的关键不是汇集更多数据,而是让模型在隐私、合规和业务流程的边界内完成任务。
阅读全文从招聘信息看,企业对AI人才的需求正从会写Prompt,转向能搭建RAG、设计Agent工作流并接入业务系统。传统后端能力没有过时,但仅会CRUD已经难以覆盖大模型应用开发的要求。
阅读全文端侧大模型进入手机和PC后,芯片性能已不能只看TOPS。Arm推出Lumex CSS并引入SME2,试图从CPU、GPU、系统IP和数据搬运入手,缓解算力、内存与功耗之间的牵制。
阅读全文把大模型装进Android App,跑通只是起点。真正影响体验的是模型加载、内存复用、NPU回退和持续发热。围绕这些工程问题,梳理一套更稳妥的端侧部署思路。
阅读全文现有资料不足以支撑 Llama 4 与 Qwen 3 的“7B 实测对决”。比榜单更重要的,是核对模型版本,并在同一硬件、框架和量化条件下测试真实业务。
阅读全文峰值算力决定园区能承接多大的任务,稳定负载才决定设备能否持续运转。随着大模型转向产品化,算力园区比拼的不再只是硬件规模,还有推理订单、任务调度、行业适配和交付能力。
阅读全文2026年旗舰机宣称的“本地运行”面临严峻考验。实测发现,即便搭载最强NPU,10B+模型在高负载下依然触发降频,发热导致体验断崖式下跌。真正的差距不在参数大小,而在软硬件协同与稀疏架构。
阅读全文昇腾910C进入量产交付阶段后,国产AI芯片面对的不再只是单卡性能比较。集群稳定性、CANN适配、模型迁移和故障恢复,正在决定它能否真正接住大模型训练任务。
阅读全文