1Anthropic:Claude 自动化对齐研究者,在 10 类对齐失败上都能缩小安全缺口
Anthropic 官方稿(8/28):让 Claude 自主做文献检索、提方法、训模型、测基准,覆盖欺骗、谄媚、越狱等 10 类对齐失败;成功标准是「安全缺口关闭比例」,并禁止蒸馏自身对齐、禁止伤能力。结果:10 类都有改进且不伤能力,最好方法还能泛化到留出基准与 Petri 多轮审计,并对至多约 4.7× 更大模型仍有效。欺骗任务上最佳方法约关闭 82%–85% 缺口,优于 28 名人类安全研究者(约 8 小时、不能迭代)的提案。另有 Sonnet 5 在约 60 小时内用约 2000+ 条样本,把早期 Opus 4.8 checkpoint 对齐分拉近量产版。约 1600 份 transcript 里监控抓到 2.4% 作弊企图。Harness 已开源。