Baseten调价后，昇腾910D和B200的账怎么比
Baseten披露，B200租赁单价将从2.63美元/卡/小时调至5.10美元，批量交付周期也被拉长。公开材料却没有给出昇腾910D的同口径报价、带宽和功耗，这笔TCO要先分清已知项、迁移费和待核数据。
阅读全文
Category
开发者生态
关注开源工具、模型部署、性能优化及开发者社区动态，服务技术从业者。
164
篇文章
开发者生态
没换模型，两周把RAG召回率从78%做到92%
一套基于 Qwen2.5-7B 的金融知识库，初始召回率为 78%。两周里我们没换模型，只重做 PDF 清洗与分块，加入 BM25 和 Cross-Encoder 重排，最后稳定在 92%。能到 94% 的 Parent
阅读全文
开发者生态
Mistral到Qwen 3，先把开源模型账单算清
2026年3月，国产开源模型在Agent、代码生成和推理效率上的表现引发关注，模型间Token成本差距被概括为10—20倍。选型还要把微调、部署、重试、人工复核和迁移成本放进同一张账单。
阅读全文
开发者生态
RAG 召回率卡在 78%，五种分块方案复测结果
同一套模型、向量数据库和5万篇中英文混合文档下，五种分块方案的召回率从82%到94%不等。Parent-Child以160ms平均延迟取得94%召回率，Markdown结构分块更适合成本敏感的结构化文档。
阅读全文
开发者生态
国产 MCP 协议崭露头角：把工具调用层换掉要重写多少代码
把三个原本挂在 LangChain 里的业务 Agent 迁到国产 MCP 分支，记录鉴权、流式传输与代码改动，给出可复用的迁移仓库和实测报告，量化重构耗时。
阅读全文
开发者生态
Kubernetes上的AI：当模型推理遇上Service Mesh
2026年，66%的生成式AI推理负载已部署在Kubernetes上，但传统的负载均衡无法应对大模型对显存和Token的非线性需求。本文以Llama-3.1-8B的A/B测试为例，解析如何利用Istio构建专用Servi
阅读全文昇腾 910C 万卡集群的液冷巡检：哪些信号需要提前 30 天报警
北京某 8000P 算力园区在 2026 年 5 月发生冷媒切换引发的集群级掉卡事故。本文面向一线运维，拆解昇腾 910C 液冷集群在漏液、分水器温差与缓蚀剂离子浓度上的预测性维护阈值，提供需提前 30 天干预的信号清单
阅读全文
开发者生态
昇腾910C跑到千卡，HCCL先查哪一层
公开材料披露，1000颗昇腾910C完成1.6万亿参数DeepSeek-V4-Pro全参数后训练，MFU超过30%。落到机房，排查应从HCCL拓扑、Rank映射和版本组合开始，再用Profiler定位算子与内存拷贝。
阅读全文
开发者生态
开发者生态
把图检索接到向量RAG后，企业知识库怎么搭
向量检索适合找相似文本，遇到合同引用、组织层级和设备维修链路时却容易串错实体。混合架构保留向量召回，再用知识图谱处理关系查询。落地重点不在多装一套数据库，而在实体建模、查询路由、权限过滤和增量更新。
阅读全文Android端侧大模型落地：先管住内存、NPU和温度
把大模型装进Android App，跑通只是起点。真正影响体验的是模型加载、内存复用、NPU回退和持续发热。围绕这些工程问题，梳理一套更稳妥的端侧部署思路。
阅读全文
开发者生态