前沿研究
OpenAI政策风向标：2026年AI监管落地对初创公司的合规成本
2026年6月OpenAI发布《美国联邦监管框架蓝图》，标志着AI监管从原则走向实质性执法。结合加州SB53法案与中国“双备案”制度，合规已成为初创企业最大的隐性成本。本文拆解数据确权、模型备案与内容审核的硬性支出，量化
阅读全文
Search
站内搜索
关键词：量化
找到 118 篇相关文章
前沿研究
前沿研究
DeepSeek-R3之后，3B端侧小模型如何在一块手表上跑得飞快？
DeepSeek-R3等推理模型确立云端智能标杆后，3B参数小模型正借助TinyML、稀疏化和INT4量化技术，下沉至智能手表等低功耗设备。本文拆解端侧推理如何实现健康监测与隐私保护的双重跃迁，并探讨其对企业FinOps
阅读全文
AI 工具箱
大模型多跳推理老翻车？GraphRAG靠知识图谱怎么救场
传统RAG分块向量化导致实体关系丢失，处理多跳推理和全局总结时常翻车。微软2024年推出的GraphRAG引入知识图谱，用图形结构建模实体关联，专门解决复杂查询中的逻辑断裂。
阅读全文
开发者生态
昇腾910D跑Llama 3.3：算子缺失与显存墙怎么破？
昇腾910D跑Llama 3.3，直接加载权重常遇算子报错。结合CANN 8.0与MindIE框架，用Ascend C自定义算子和MindQuantize量化工具可解决显存瓶颈。梳理了从环境配置到算子适配的工程避坑点。
阅读全文
开发者生态
大模型推理账单怎么算：别只盯着Token单价
GPT-5.2 Pro和Gemini 3.1 Pro的API报价让不少团队头疼，但单纯比价已经不够了。Gartner预测2030年推理成本将降90%，开发者需要盯紧TPOT和KV Cache，并在FP8与INT4量化中找
阅读全文
AI 实操指南
显存才是硬通货：2026年本地跑大模型要花多少钱
API按Token计费越来越贵，数据隐私攥在别人手里。2026年本地部署需求井喷，但RTX 5080工作站近2万，5090一卡难求。核心原则：显存决定能跑多大模型，9B量化版8G勉强16G舒服，27B要24GB。算清这笔
阅读全文
技术应用
iPhone 18跑13B模型：1.8秒延迟背后，A20的算力与妥协
在iPhone 18 Pro本地运行13B量化模型AFM3，首字延迟1.8秒，背部最高温达41.5℃。台积电2nm工艺与WMCM封装让端侧算力大增，但苹果仍用“混合智能”策略将重负载推向云端。
阅读全文
技术应用
端侧AI大考：iPhone 17与安卓旗舰的调度分歧
2025年手机AI竞争焦点从NPU跑分转向端云调度。苹果押注Core ML的“本地锁定”与断点续传，高通走“全速推理”路线，联发科侧重能效量化。在弱网和隐私合规面前，不同的卸载策略直接决定了发烫程度与续航底线。
阅读全文深蓝SL03获L3许可：责任主体转移下的定责与保险重构
2025年12月工信部公布首批L3准入，长安深蓝SL03量产落地。L3将责任主体从人转向系统，引发定责与保险定价难题。业内提出“控制权动态分配”理论，结合2027年强制国标，行业正从模糊责任向量化风险过渡。
阅读全文别只盯着iPhone 19：端侧大模型在旧设备上的真实生存指南
当iPhone 19的M5芯片与千亿参数成为头条时，数十亿存量旧设备正被遗忘。本文实测Gemma 2 2B在iPhone 15（A16芯片）上的表现，揭示4-bit量化与Core ML框架如何解决内存与算力瓶颈。结合深圳
阅读全文银行反欺诈迁移昇腾910D：从120毫秒延迟到18毫秒的工程实战
2025年中，某股份制银行将GNN反欺诈系统迁移至昇腾910D时遭遇严重延迟问题。通过Ascend C定制算子优化内存访问，并利用盘古大模型生成合成数据进行量化感知训练，团队历时两个月将平均延迟压至18毫秒，同时保持高精
阅读全文关掉Wi-Fi跑70B模型：手机端侧算力的真实账本
DeepSeek蒸馏模型在香橙派和玄铁C920上的快速适配，展示了端侧算力优化的方向。LPDDR5X/6的普及让手机运行量化大模型成为可能，但42℃的温度墙和能耗比限制了其实用性。端侧AI更多是隐私保护和高频轻量任务的补
阅读全文