18.7秒后,M4 Max吐出第一个字
一台 16 英寸 M4 Max、64GB 统一内存的 MacBook Pro,本地跑 DeepSeek-R2 IQ4_XS 量化版:能跑,但不像云端那样轻松。首 token 延迟 18.7 秒,稳定生成 6.8 tok/
阅读全文关键词:DeepSeek
一台 16 英寸 M4 Max、64GB 统一内存的 MacBook Pro,本地跑 DeepSeek-R2 IQ4_XS 量化版:能跑,但不像云端那样轻松。首 token 延迟 18.7 秒,稳定生成 6.8 tok/
阅读全文深圳河套学院等团队用昇腾910C集群完成1.6万亿参数DeepSeek-V4-Pro全参数后训练。案例证明国产算力能进入万亿级训练,但扩到千卡后,通信、算子适配和运维稳定性才是真正考验。
阅读全文基于河套学院千卡集群训练1.6万亿参数DeepSeek-V4-Pro的实战经验,拆解网络拥塞、显存碎片化、CANN算子迁移与故障自愈中的具体陷阱,提供可复用的配置参数和监控看板搭建方法,帮助一线运维工程师少走弯路。
阅读全文深圳河套学院AI训练平台项目团队等基于昇腾910C集群完成1.6万亿参数DeepSeek-V4-Pro全参数后训练。比起“跑通”,1500余步无中断、MFU超过30%、故障率控制在0.3‰,更能说明这类国产算力集群的工程
阅读全文2026年6月底,DeepSeek开源DSpark框架,NVIDIA披露EAGLE-3方案,投机解码正式从学术概念跨入生产深水区。本文拆解vLLM与TensorRT-LLM的工程实现细节,对比显存优化、国产算力适配与硬件
阅读全文基于昇腾910C千卡集群训练1.6万亿参数DeepSeek-V4-Pro的实战经验,拆解显存碎片、CANN算子开发、CUDA迁移、故障恢复与推理适配中的具体陷阱,提供数据驱动的避坑方案。
阅读全文1.6万亿参数DeepSeek-V4-Pro在昇腾910C集群上完成全参数后训练,证明了国产算力能扛大模型任务。但从CUDA迁到CANN,开发者还会碰到算子、显存、调试工具三道具体的坎。
阅读全文昇腾910C集群完成DeepSeek-V4-Pro后训练,让国产算力的可用性被重新讨论。中小企业真正要判断的,不是追不追最新芯片,而是哪些数据必须留在本地、哪些任务可以上云,以及团队能不能接住国产软硬件栈。
阅读全文2026年MoE模型竞争转向Gate网络设计。本文对比DeepSeek V4、Qwen 3、Mixtral 9x22B三种路由策略,通过消融实验量化动态负载均衡对训练收敛和推理延迟的影响,并给出可复现的PyTorch代码
阅读全文深圳河套学院等团队依托昇腾910C集群,完成1.6万亿参数DeepSeek-V4-Pro全参数后训练。这个结果证明国产AI算力能承担更重训练任务,但园区真正要面对的,是通信、调度、迁移和运维成本。
阅读全文DeepSeek V4已有4月24日发布、开源、百万词元上下文和榜单52分等公开信息;Llama 5目前缺少可核验资料。开发者不宜硬做参数对比,更适合从中文场景、工程迁移、榜单参考和内部评测入手。
阅读全文