H20受限后，国产开源模型的算账逻辑变了
2026年上半年，Qwen、Yi、GLM等模型借MoE架构将70B级推理成本压至每千Token 0.003元。配合昇腾910C与寒武纪思元590的适配，精度损失控制在1%左右，整体推理成本较H100降低约60%。实测数据
阅读全文
Search
站内搜索
关键词：推理
找到 301 篇相关文章
实测昇腾910C与思元590：推理成本砍六成，算子填坑要两周
华为昇腾910C与寒武纪思元590跑Llama 3.3和Qwen 2.5实测：精度损失1%内，速度慢9%-18%，但单卡采购价仅为H100的三成多。标准化微调可替代，自定义CUDA算子仍需转译填坑。
阅读全文NPC学会撒谎和背叛后，游戏逻辑崩了，玩家却上头了
在《星渊回响》里骗过一个NPC后，我意识到游戏变了。NPC不再背诵台词，而是察言观色、博弈甚至撒谎。这种自主性带来了200毫秒内的自然交互和更高的留存率，但也让传统剧情逻辑随时面临崩塌。
阅读全文AI独角兽砍掉一半估值换生存，二线大模型的终局到了吗
2026年中，多家明星AI创企遭遇估值腰斩。本文追踪融资现状，分析二线大模型为何被迫转向垂直场景，并探讨国产推理卡与GPT-5o带来的生存压力。
阅读全文苹果深圳新实验室不招大模型，只盯硬件省电
2026年6月，苹果在深圳南山设立AI实验室，首批12个岗位避开大模型预训练，聚焦端侧推理与硬件协同。受M5 MacBook实测续航痛点驱动，苹果试图通过驻厂迭代解决功耗难题。此举不仅推高端侧AI工程师薪资至80-150
阅读全文深圳一家视频公司弃用 A100，国产推理卡到底能不能打？
一家深圳视频创业公司决定不再买二手 A100，单用户推理成本因此降了六成。2026 年 6 月，我们实测了两款国产主流推理加速卡，用 Llama-3.1 和国内自研 7B 模型跑了一遍，记录下吞吐量、显存占用、算子适配和
阅读全文Copilot 住进内核：Windows 12 要让电脑自己找活干
微软在Build 2026上发布Windows 12，将Copilot推理引擎直接嵌入系统内核。这意味着AI从独立应用升级为能调度硬件资源的系统服务。微软推荐NPU算力不低于40 TOPS，并引入新API让开发者直接调用
阅读全文3B模型打赢70B的秘密：小模型在手机端的真实表现
我们实测了Qwen3-3B、Phi-4-mini、Gemma-3等主流小模型在5款2026年主流安卓/iOS设备上的表现，覆盖推理速度、功耗、发热和多任务影响。测试发现，在特定任务上，3B模型已能提供媲美云端大模型的流畅
阅读全文实测国产AI芯片跑13B大模型：续航崩了，比玩游戏还烫
2026年6月，我们测试了三款搭载最新国产AI芯片的旗舰手机，在本地运行13B参数大模型。测试发现，持续对话功耗突破5W，续航仅约两小时，发热明显。软件优化和应用场景的缺失，让本地大模型目前更像技术演示，离实用还有距离。
阅读全文3B模型打败70B，靠的是什么
2026年，VibeThinker-3B模型在基准测试上逼近甚至超越70B大模型，引发行业关注。文章聚焦小模型在端侧推理中的现实路径，对比蒸馏、量化、SFT和GRPO等技术，并探讨企业如何在成本、性能和特定场景间找到平衡
阅读全文Claude 4.0的安全白皮书，会让AI采购多出哪些新清单？
Anthropic在2026年6月发布的Claude 4.0安全白皮书，核心提出“系统级对齐”。这不仅是技术升级，更直接改变了企业采购AI时的评估标准、合同条款和成本结构。白皮书中的三个硬核改变，正迫使采购方要求新的证据
阅读全文推理链能调了，金融医疗教育实测：省时间但烧脑子
Claude 4 开放了推理链调整功能。我们找了三家公司的早期测试：深圳支付公司用它筛风险警报，人工复核时间砍了65%；上海医疗AI公司用它辅助读片，准确率小幅提升但卡在合规；教育平台用它做个性化讲解，效果明显但定义‘风
阅读全文