1Anthropic 对齐负责人 Hubinger:十年内 AI「灭种」概率 >10%;同事 Coxon 辞职
Forbes / BBC / CBS(9/9):Anthropic Alignment Science Lead Evan Hubinger 在 X 发帖称「我们真的相信 AI 可能杀掉全人类」,个人估计未来十年概率 >10%;并写「Anthropic 在尽力,但我们还没有解决超级智能对齐的计划,也明显不在轨道上」。同日前后,研究员 Jacob Coxon(曾在 Anthropic 与 OpenAI 共约三年)公开辞职,指责两家「不负责任地冲向可自我改进的超级智能、拿生命赌博」。帖文阅读量破千万量级,把「安全品牌」公司内部的恐惧直接摊到主舞台。