前沿研究
128K合同实测：省下显存后，谁更少漏检
同一张 RTX 4090 上，128 份中文合同、最长 131K token。RWKV-6 显存最低、出首 token 最快，Qwen2.5 平均漏检最低，Mamba-3 居中。三种架构的取舍，最终落在推理成本与人工复核
阅读全文
Search
站内搜索
关键词：架构
找到 218 篇相关文章
前沿研究
2026下半年端侧大模型评测：谁在真省电，谁在背刺续航
2026年旗舰手机端侧AI体验的差距已从跑分转向能效。本文对比苹果A19、骁龙8 Gen 4与天玑9400在运行3B-7B量化模型时的功耗、发热与延迟，通过架构与实测案例揭示谁的NPU真正兼顾续航，并附一套可复现的功耗测
阅读全文ARM架构之争背后，手机端AI开始比拼持续能效
端侧AI进入手机和智能眼镜后，峰值算力已不足以解释真实体验。现有材料能确认苹果等厂商持续推进端侧AI、国内至少50个团队布局AI眼镜；至于「ARM V3.1」及相关性能数据，缺少官方文档和测试条件，暂不宜写成定论。
阅读全文告别单体大模型：2026年“通专融合”架构如何解决行业深水区问题
分析 2026 年 AI 架构从单体通用模型向“通专融合”的演进。探讨 MoE 动态路由如何结合通用推理与领域专家模型，解决医疗、法律等高精度场景下的幻觉问题，并结合 ZCube 等基础设施分析落地路径。
阅读全文用 Llama 4 微调企业客服模型：从数据准备到部署避坑
针对 Llama 4 的 MoE 架构，本文详细拆解如何利用 LLaMA Factory 和 Unsloth 通过 LoRA 实现企业级客服模型的微调。涵盖从 SFT 数据清洗、Rank 参数调优到 GGUF 量化部署的
阅读全文BIGAI新架构落地实测：国产算力集群延迟降低40%的路径
针对国产算力集群在多机多卡通信中的“延迟墙”问题，北京通用人工智能研究院（BIGAI）通过一套新的通信拓扑调度架构，将集群同步延迟降低了40%。本文拆解其从算子级优化到拓扑感知的技术路径，分析该突破如何降低中小开发者的训
阅读全文
AI 实操指南
解决 Agent “金鱼脑”：构建基于时空索引的长期记忆库实操方案
针对 AI Agent 在长周期任务中丢失上下文的“金鱼脑”问题，本文提出一套结合时间戳与空间拓扑的时空索引记忆方案，通过分层架构（短期缓存-中期检索-长期存档）提升 Agent 的一致性，并提供基于 Python 的实
阅读全文
技术应用
端侧32B模型上车：手机散热与功耗的隐形天花板在哪？
骁龙8 Gen 5手机实测显示，INT4量化32B模型运行十分钟后，生成速度从8 token/s跌至3 token/s。本文对比RTX Spark的45—80W主动散热与手机的被动极限，剖析内存墙与NPU架构的真实瓶颈，
阅读全文Prompt越写越长，Agent还是跑偏？给它加一道反思闭环
Agent 在长任务里跑偏，继续往 Prompt 里加规则，常常只会让首轮输入更臃肿。更稳妥的做法，是把生成、评估、修正拆开，再用 PASS、最大轮次、状态机和人工审核管住循环。
阅读全文
前沿研究
2026年初级CRUD岗位收缩后，程序员该补什么
一篇讨论AI编程工具的行业文章称，2026年初级CRUD岗位需求同比下降73%。更棘手的是，重复编码积累经验的老路正在变窄。系统设计、垂直业务落地和Agent流程治理，是初级程序员更该补的能力。
阅读全文3B模型在端侧能跑多少个Agent？实测不同量化方案的推理损耗
针对2026年主流的3B级端侧模型（如商汤Sage、vivo蓝心3B），实测在Arm v10架构设备上运行3-5个垂直Agent时的内存占用与延迟。对比INT4与FP8量化方案，分析在多Agent协作场景下的精度掉点与资
阅读全文
前沿研究
Arm v10样片实测：SME2把Prefill提速3.2倍
Arm v10工程样片测试中，SME2让Llama-3-3B 4-bit版Prefill速度较v9提升3.2倍，首字延迟由约1.2秒降至400毫秒以内；Decoding加速约1.4倍，10B模型持续运行仍受发热和功耗约束
阅读全文