🎯 情报来源：量子位
谷歌DeepMind与伦敦大学联合研究发现，包括GPT-4o、Gemma 3在内的大语言模型存在决策自信度缺陷。实验显示，当初始答案被隐藏时，模型改变正确答案的概率显著提升，即使反对意见准确率仅50%（随机水平），模型仍会出现23%的答案修正行为。
研究采用两轮实验设计，通过控制初始答案可见性发现：模型在记忆机制激活时表现出78%的答案坚持率，但在无记忆支持时，对反对建议的敏感度激增至正常人类决策的3.2倍。这种现象被归因于RLHF训练导致的过度反馈依赖。
💡 核心要点
- 初始答案隐藏时，GPT-4o对50%准确率的反对建议仍产生23%修正率
- 记忆机制可使模型答案坚持率提升至78%，接近人类决策水平
- 模型对反对建议的敏感度达人类基准值的3.2倍
- 实验涵盖Gemma 3、GPT-4o及o1-preview三大主流模型
- RLHF训练被确认为核心诱因，导致反馈依赖偏差
📌 情报分析
技术价值：高
揭示LLM决策机制关键缺陷，实验设计巧妙分离记忆机制与反馈敏感度变量，为改进模型自信度算法提供明确方向。
商业价值：极高
直接影响客服、医疗咨询等依赖多轮对话的AI应用场景，错误修正可能导致法律风险，需紧急部署置信度校准方案。
趋势预测：高
将推动「自信度引擎」成为LLM标配组件，预计未来12个月内会出现专用于答案验证的辅助模型架构。