站内搜索

AWS生成式AI升级：从代理式系统到无服务器推理的算力账本

算力闲置和突发流量一直是大模型推理的成本痛点。亚马逊云科技通过Serverless Inference和代理式AI等新工具，重构了AI基础设施的计费与调度逻辑，帮助企业在控制成本的同时交付业务成果。