田渊栋团队提出连续思维链:叠加态并行搜索,准确率近100%

🎯 情报来源:量子位

Meta GenAI科学家田渊栋团队联合UC伯克利、UCSD的研究人员提出了一种基于“叠加态”并行搜索的连续思维链(Continuous CoT, COCONUT)方法,在解决复杂任务如图可达性问题时表现优异。相比传统离散思维链需要O(n^2)步解码,连续思维链仅需D步即可完成推理,并在实验中实现了接近100%的准确率。

核心要点:

  • 连续思维链通过叠加态机制实现隐式并行搜索,效率比离散思维链高,尤其在处理有向图可达性问题时显著优于现有方法。
  • 实验显示,2层Transformer的COCONUT模型准确率接近100%,而12层离散CoT模型仅为83%,无CoT基线模型为75%。
  • 研究还设计了“注意力选择器”及两层Transformer架构,分别用于信息提取与叠加态维护。

📌 情报分析

技术价值:极高

连续思维链通过叠加态并行搜索解决了传统离散思维链在复杂任务中的效率瓶颈,理论支持和实验结果均表明其性能提升显著,尤其在大规模图结构推理任务中优势突出。

商业价值:高

该技术可直接应用于需要高效推理的场景,如知识图谱查询、路径规划等,可能为大模型优化带来新的商业化机会,但短期内仍需进一步验证其通用性。

趋势预测:

未来6-12个月内,连续思维链方法或将成为复杂任务推理的重要方向,吸引更多研究者探索其在多模态任务和实际工业应用中的潜力。

原文连接

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索