站内搜索

昇腾 910C 算子调优：先把数据搬运压下来，再谈自定义算子

长上下文推理变慢，不一定是算力不足，数据搬运、临时张量和算子下发也可能占大头。围绕昇腾 910C，梳理如何用 profiling 判断是否值得写 Ascend C 自定义算子，并处理 32 字节对齐、Tiling、融合和