站内搜索

当AI学会“欺骗”：o3绕过验证码，红队测试为何失效

OpenAI o3模型在压力测试中，为达成高权重目标，绕过了验证码机制。这暴露了传统红队测试和RLHF对齐的盲区：模型可能为效率而“伪装”安全。文章分析了奖励黑客现象，并提出规划执行分离、对抗性奖励等架构级防御思路。