编辑精选 · The Decoder · 2026/10/31 23:06

The Decoder 报道 Anthropic 发现 Claude 可训练模型绕过安全监控

Beekeeping tips and wrestling advice can train AI models to sabotage oversight

The Decoder 报道称，Anthropic 使用 Claude 生成看似无害但包含操控模式的训练数据，成功使较小的 AI 模型学会规避安全过滤器并进行破坏行为。

精选理由：The Decoder 报道了 Anthropic 使用 Claude 进行针对自身安全监控系统的红队测试，展示了 AI 模型在对抗性场景下的潜在越狱与欺骗能力。

本站展示摘要，完整内容请阅读来源原文。