技术应用
端侧 7B 模型让手机发烫退掉单：功耗墙怎么破
手机烫得拿不住、推理超时退单，7B 模型塞进旗舰机后的真实翻车案例。本文拆解骁龙 8 Gen 4 机型的运行日志，分析功耗墙成因，给出推理框架量化、KV 缓存剪枝、动态频率调度等优化方案，并引用 vivo 蓝心部署、头豹
阅读全文
Search
站内搜索
关键词：大模型
找到 295 篇相关文章
技术应用
医院挂号机学会认17种罕见药名之后：协和·太初项目的可复制性测试
协和·太初罕见病大模型2025年2月进入临床后，真正难点不是识别准确率本身，而是跨医院、跨药名库、跨电子处方系统的复制能力。本文拆解不同医院部署时的真实阻力、合规边界与成本账本。
阅读全文
产业动态
Sora激发的需求挤瘫园区：算力配齐后为何运不拉满
华东某8000P算力园区落地两月，利用率不足30%，电费超860万、液冷改造追加1500万。视频大模型推理需求爆发，但训练集群闲置、推理空转，结构性错配导致算力过剩与紧缺并存。拆解真实账本与软件鸿沟，给出园区运营方与租用
阅读全文Sora 3流水线化之后：视频初创团队的七笔糊涂账
Sora 2026年4月关闭后，AI视频生成成本被拉到每分钟1美元以下，但杭州、上海、北京三家初创团队的账本显示，算力平摊、重试循环、人工审核、调色衔接等七笔隐性成本让单条视频全成本只比外包便宜20%—30%。本文用真实
阅读全文
技术应用
7B—14B模型上手机，功耗不能只看100 TOPS
天玑9500已有100 TOPS等发布规格，骁龙8 Elite Gen5的同类数据来自发布前瞻，A19 Pro则缺少可直接对照的官方指标。现有素材没有统一模型、机型和环境下的功耗温度数据，能比较的是测试边界，不是“谁最凉
阅读全文挂号前识别17种罕见药名，协和·太初的门诊测试与合规边界
2026年中，北京协和医院“协和·太初”罕见病大模型深入门诊预问诊一线。实测发现，在面对17种罕见药名时，标准输入下F1值可达0.96，但方言和错别字会导致准确率显著下滑。在DeepRare等竞品入局的背景下，医疗AI正
阅读全文
前沿研究
医疗大模型走进三甲门诊：挂号前先认出17种罕见药名的真实测试
医疗大模型正从概念走向三甲门诊，但一线医生反馈最关注的不是参数大小，而是模型能不能准确识别罕见药名。本文从新华网2026年6月的一线观察出发，结合多家医院内测数据，拆解医疗大模型在药名识别上的命中率、误识率与人工复核流程
阅读全文
开发者生态
昇腾910C千卡集群排雷：分布式通信瓶颈与显存优化实录
基于8000P园区实战，拆解昇腾910C在万卡规模下的高频报错。从HCCS通信死锁到显存碎片化，提供可复用的调试脚本与CANN参数调优方案，直击国产算力大模型训练的工程深水区。
阅读全文
技术应用
8000P算力园区里的水冷改造：一笔被忽略的节能账
当单芯片功耗突破2000W，风冷彻底失效。本文实地拆解一座8000P算力园区从风冷向液冷改造的真实账本：PUE从1.35降至1.08，每P算力年省14万元电费，但改造成本高达2.2亿元。冷却不再只是运维问题，它直接决定了
阅读全文
前沿研究
70B模型塞进智能眼镜：光波导散热之外的软硬件协同死结
2026年AI眼镜密集上新，70亿参数模型已在手机端跑通，但塞进眼镜远不只是把芯片换小。异步量化推理能压内存，光波导和电池却卡住了系统调度。本文从算法、芯片、光学和功耗四条线索，拆解为什么"能跑"离"好用"还差一套工程协
阅读全文B300先到，MI400押注432GB显存：采购先算迁移账
B300已经可用，288GB HBM3e和CUDA路径适合近期部署；MI400计划2026年下半年出货，以432GB HBM4、19.6 TB/s带宽争取大模型推理。采购时还要算上交期、ROCm迁移和整机成本。
阅读全文银行风控接入大模型，规则引擎为何还不能退场
公开资料显示，银行正把大模型接入信贷、知识处理和业务辅助，但尚不足以证明其已大规模替代规则引擎。更稳妥的做法，是让规则守住硬约束，让模型处理文本与关联线索，再用并行运行、人工复核和审计记录验证效果。
阅读全文