产业动态
AI云服务集体降价背后：GPU利用率与电力成本的真实博弈
2026年Q2起，AWS、Azure与阿里云等巨头密集下调AI算力价格。本文通过拆解数据中心PUE、GPU利用率曲线及Oracle等厂商的财报，揭示降价并非简单的市场竞争，而是液冷普及降低电力成本与推理架构优化提升利用率
阅读全文
Search
站内搜索
关键词：推理
找到 301 篇相关文章
产业动态
前沿研究
自动驾驶L3级普及前夜：城市NOA的长尾场景与责任界定难题
2025年底深蓝获首批L3号牌，乘联数据显示新能源L2+装车率超82%。但暴雨与无保护左转等长尾场景仍是技术瓶颈，端侧推理带宽受限加剧了这一难题。系统日志成为事故定责的核心，其不可篡改性是L3时代权责界定的关键。
阅读全文
前沿研究
Arm高管谈端侧AI：2026年移动芯片的推理带宽瓶颈不只在TOPS
2026年端侧大模型进入规模化落地期，Arm高管指出移动芯片的真正瓶颈并非TOPS堆叠，而是总线与内存带宽。苹果AFM 3用稀疏架构规避访存，行业从拼算力转向拼架构命中率。
阅读全文
前沿研究
MoE 架构跑通万亿参数了，但显存碎片正在拖垮推理速度
MoE 模型的万亿参数竞赛并未带来推理端的红利，反而因专家权重全量驻留引发的显存碎片化和访存瓶颈，让推理延迟居高不下。本文拆解 Llama-4 类架构下的调度难题，并结合昇腾等厂商的最新无损优化方案，探讨从算子调度到底层
阅读全文
技术应用
端侧 7B 模型让手机发烫退掉单：功耗墙怎么破
手机烫得拿不住、推理超时退单，7B 模型塞进旗舰机后的真实翻车案例。本文拆解骁龙 8 Gen 4 机型的运行日志，分析功耗墙成因，给出推理框架量化、KV 缓存剪枝、动态频率调度等优化方案，并引用 vivo 蓝心部署、头豹
阅读全文
产业动态
GPT-5 抢跑发布？先别急着看跑分，算算 API 账单涨幅
GPT-5 以 $1.25/$10.00 的定价切入市场，号称具备显著价格优势。但对于中小创业团队而言，这并非简单的“降价促销”，而是一场关于推理成本重构的硬仗。本文拆解 GPT-5 实际账单结构，对比前代成本差异，揭示
阅读全文
产业动态
Sora激发的需求挤瘫园区：算力配齐后为何运不拉满
华东某8000P算力园区落地两月，利用率不足30%，电费超860万、液冷改造追加1500万。视频大模型推理需求爆发，但训练集群闲置、推理空转，结构性错配导致算力过剩与紧缺并存。拆解真实账本与软件鸿沟，给出园区运营方与租用
阅读全文
前沿研究
VibeThinker-3B的看点不只在30亿参数
30亿参数的 VibeThinker-3B，在数学、竞赛编程等可验证推理任务上进入多款前沿模型的性能区间。公开路线包含 SFT、多领域强化学习、离线自我蒸馏和最终 RL 指令微调；GRPO、训练卡时与复现成本仍缺少材料支
阅读全文
产业动态
国产AI芯片进入集群考场：单卡跑分只是第一关
部分国产产品的FP16峰值算力已突破500 TOPS，但项目验收还要看集群扩展、软件迁移、故障恢复和长期运维。随着推理需求与国产化采购加快，参数表只能承担第一轮筛选。
阅读全文
AI 实操指南
Agent 多模型投票别只看效果，工具调用账单也要算清
多模型投票的目的通常是让 Agent 的判断更稳，但它也会把模型推理、工具执行、重试和审计成本叠加到同一任务里。开发者需要限制执行权，并把每一步调用纳入可核对的成本账。
阅读全文
前沿研究
WAIC 2026先查账：通专融合的推理成本怎么比
WAIC 2026会前发布会披露57个核心场景和162亿元意向合作，但公开材料还不足以给Qwen3-Max、书生·万象3.0和MiCo排出成本座次。真正要比的是硬件、量化、上下文、并发和服务边界。
阅读全文WAIC 2026机器人实测：42款里9款撑过3小时
WAIC 2026现场测试了42款具备自主移动和操作能力的人形及仿生机器人，只有9款在无外部补能下稳定运行3小时。多数样机停在过热降频、通信抖动和推理功耗上，离产线所需的长时间作业仍有距离。
阅读全文