AI Security

Anthropic发布规则分类器，防御大语言模型越狱攻击。

Anthropic开发“体质分类器”保护AI模型安全，有效阻止越狱尝试，未来将公开测试。

微软AI安全团队测试多款AI产品，发现简单攻击更有效，强调人类专业知识重要性，持续修复漏洞，关注负责任AI风险。

Mindgard完成800万美元融资，加速AI安全测试技术研发和市场扩展，推行业首创DAST-AI解决方案，强化北美市场领导地位。