AI safety

OpenAI推出AI安全红队测试新策略，多步强化学习提升模型质量，红队测试成AI产品发布关键环节。

OpenAI发布新AI安全模型o1，可主动推理安全规则，安全性优于主流AI系统，但操纵风险仍存。