🎯 情报来源：量子位
上海人工智能实验室与复旦大学联合团队提出选择性熵正则化方法（SIREN），成功解决大语言模型在RLVR训练中的”熵困境”问题。实验数据显示，该方法在Qwen2.5-Math-7B模型上实现54.6%的平均maj@k指标，超越基线4.8%；在AIME24/25挑战性任务中取得6.6%的性能提升，且在1.5B到8B不同规模模型上均保持稳定有效性。
💡 核心要点
- 性能提升：Qwen2.5-Math-7B模型maj@k达54.6%，超越基线4.8%
- 挑战突破：AIME24/25任务性能提升6.6%
- 适用范围：在1.5B-8B不同规模模型上验证有效
- 技术突破：通过Top-p掩码、峰值熵掩码、自锚定正则化三重机制实现精准探索控制
- 训练效率：相比传统方法，困惑度坍缩减少37%，答案多样性提升2.3倍
📌 情报分析
技术价值：极高
通过结构化约束实现探索过程的精细调控，解决了RLVR训练中探索受限（熵崩塌）和探索失控（熵爆炸）的核心矛盾。实验数据证实其在不同规模模型上的普适性。
商业价值：高
该方法可直接应用于数学、代码和科学推理等商业化场景，6.6%的性能提升在高端AI服务市场具有显著竞争优势。开源策略（GitHub项目）将加速技术落地。
趋势预测：高
随着强化学习成为大模型后训练主流方法，该研究提出的选择性探索调控机制可能成为行业新标准。团队预计该方法可扩展至更广阔的应用领域，包括金融分析和生物医药推理。