Transformer还没退场,工程账比架构更难改
MoR公开结果称可将KV缓存内存降低约50%,Mamba、RWKV也在争夺长序列场景。但从训练工具到推理框架,行业仍围绕Transformer运转。2026年的架构竞争,关键要看端到端成本能否真正下降。
阅读全文关键词:训练
MoR公开结果称可将KV缓存内存降低约50%,Mamba、RWKV也在争夺长序列场景。但从训练工具到推理框架,行业仍围绕Transformer运转。2026年的架构竞争,关键要看端到端成本能否真正下降。
阅读全文针对2026年7月具身智能大模型的高昂训练成本与落地幻觉,北京通用人工智能研究院(通研院)提出了一种新解法:舍弃端到端多模态预训练,在极简仿真沙盒中通过物理因果反馈跑通物理Agent的常识推理,为中小具身智能创业团队提供
阅读全文分析大模型训练从“规模至上”转向“推理能力驱动”的技术拐点。重点拆解 GRPO 算法如何通过取消 Critic 模型降低显存成本,使 7B-70B 小参数模型能通过大规模强化学习实现性能反超,揭示 2026 年模型训练的
阅读全文AMD 已公布 Advancing AI 2026 主题演讲时间,但现有公开材料还不足以确认 MI400 的显存、功耗、售价和训练成本。判断它能否撬动 NVIDIA,重点要看 ROCm、集群互联与首批客户部署。
阅读全文先核对模型型号:现有素材只明确提到 Llama 4 Scout 与 Maverick,并未提供“Llama 4 7B”这一正式型号。文章梳理客服数据清洗、LoRA 与 QLoRA 选择、LLaMA Factory 训练、
阅读全文11520张昇腾910C接入同一集群后,单个慢节点、端口错误或集合通信阻塞,都可能把等待扩散到整个任务。排查要把训练时间线、HCCL算子和交换机端口指标对齐,再决定是否调整通信算法、超时策略和任务编排。
阅读全文BIGAI园区提供8000P算力与空间支持,但公开信息没有说明单个团队能用多少、用多久、如何结算。对AGI初创公司,真正的考题不是把训练排满,而是每轮实验能否留下可复现结果,并进入产品与真实业务。
阅读全文2026年7月,BIGAI接入8000P算力。公开资料没有披露万亿参数训练计划,但SceneVerse++、TongSIM、TongAgents、OmniXtreme与奥数几何AI已经勾勒出一个可检验的问题:模型学到的场
阅读全文8000P解决了算力入口,却不能替初创公司打通数据、调度、部署和回款。现有公开报道未披露园区平均利用率、有效训练吞吐与企业续租情况,判断AGI项目是否跑通,最终仍要看算力能否变成稳定交付和持续收入。
阅读全文2026中关村论坛上,BIGAI发布通通3.0和“通脑”。公开材料写清了空间、认知、社交能力及“AI小镇”,却没有系统规模、训练时长、算力、能耗和与2.0同口径的效率对比。能力升级可见,成本边界仍不清楚。
阅读全文针对国产算力集群在多机多卡通信中的“延迟墙”问题,北京通用人工智能研究院(BIGAI)通过一套新的通信拓扑调度架构,将集群同步延迟降低了40%。本文拆解其从算子级优化到拓扑感知的技术路径,分析该突破如何降低中小开发者的训
阅读全文TongSIM、SceneVerse++与OmniXtreme分别落在模拟训练、3D场景和运动控制上。三项成果勾勒出BIGAI进入物理世界的路线,也留下关键问题:这些能力能否在陌生环境里稳定完成真实任务。
阅读全文