🎯 情报来源：Apple Machine Learning Research
在NeurIPS 2025的Regulatable ML (ReML)研讨会上，一项关于AI安全测试的新方法PersonaTeaming获得关注。该方法通过引入人物角色(persona)到对抗提示生成过程中，显著提升了攻击成功率。实验数据显示，与当前最先进的自动化红队测试方法RainbowPlus相比，PersonaTeaming的攻击成功率最高提升144.1%，同时保持了提示的多样性。
研究团队开发了两种人物角色类型：”红队测试专家”和”普通AI用户”，并创新性地提出了动态人物角色生成算法。该方法还引入了一套新的指标来测量”变异距离”，以补充现有对抗提示多样性测量的不足。这项工作代表了将人类背景和身份特征融入自动化红队测试的初步探索。
💡 核心要点
- 攻击成功率提升：PersonaTeaming方法使对抗提示攻击成功率最高提升144.1%
- 技术创新：开发动态人物角色生成算法，适应不同种子提示
- 新评估指标：引入”变异距离”概念，完善对抗提示多样性测量
- 角色类型：包含”红队测试专家”和”普通AI用户”两种人物角色
- 比较基准：优于当前最先进的自动化红队测试方法RainbowPlus
📌 情报分析
技术价值：高
该方法创新性地将人物角色概念引入自动化红队测试，实验数据证明能显著提升攻击效果(144.1%提升)，并开发了新评估指标。
商业价值：一般
目前主要应用于AI安全研究领域，商业化路径尚不明确，但可能成为AI安全测试服务的重要组件。
趋势预测：高
随着AI监管需求增长，结合人类特征的自动化测试方法将成为重要研究方向，该方法为后续研究奠定了基础。