关掉Wi-Fi跑70B模型:手机端侧算力的真实账本
DeepSeek蒸馏模型在香橙派和玄铁C920上的快速适配,展示了端侧算力优化的方向。LPDDR5X/6的普及让手机运行量化大模型成为可能,但42℃的温度墙和能耗比限制了其实用性。端侧AI更多是隐私保护和高频轻量任务的补
阅读全文关键词:LPDDR5X
DeepSeek蒸馏模型在香橙派和玄铁C920上的快速适配,展示了端侧算力优化的方向。LPDDR5X/6的普及让手机运行量化大模型成为可能,但42℃的温度墙和能耗比限制了其实用性。端侧AI更多是隐私保护和高频轻量任务的补
阅读全文