站内搜索

关键词：HuggingFace

找到 2 篇相关文章

2026-07-10 01:10:26 0 阅读

vLLM、sglang 仍是推理服务主流。Rust 更现实的入口，是接管 tokenizer、批处理调度、后处理和网关这些延迟敏感环节，而不是一上来重写整个推理引擎。

2026-07-01 04:06:08 1 阅读

DeepSeek-R1上线7天破亿用户，并在春节后启动“开源周”公开5个代码库。这家杭州公司通过重构MoE架构与强化学习，正把车库创业精神注入大模型底层。