🎯 情报来源：量子位
Inception Labs推出基于扩散技术的商业级大语言模型Mercury，该模型突破了传统自回归模型逐词生成的限制，采用“从噪声到结构化输出”的方式，能一次性预测所有方向的token，大幅提高了生成速度。在H100 GPU上，Mercury Coder Mini和Mercury Coder Small分别实现了1109 tokens/秒和737 tokens/秒的吞吐量，比传统工具快10倍，硬件资源占用减少60%。
Mercury通过并行化文本生成、动态去噪调度、混合精度量化等技术，极致发挥GPU性能，降低训练和推理成本。此外，模型在去噪过程中引入上下文双向关联，能够更好地理解文本的前后语境，从而更准确地发现和纠正错误。
💡 核心要点
- Mercury在H100 GPU上实现1109 tokens/秒的吞吐量，比传统工具快10倍
- 硬件资源占用减少60%，响应时间压缩至其他工具的1/4
- 动态纠错能力：支持函数级参数自动校正，提高代码准确性
- 采用Transformer架构，兼容现有大模型训练和推理优化技术
- 团队背景强大：创始团队包括扩散模型共同发明人Stefano Ermon等
📌 情报分析
技术价值：极高
Mercury通过扩散技术实现并行生成和动态纠错，解决了自回归模型逐词生成的限制，技术突破显著。
商业价值：高
代码生成速度提升10倍，硬件资源占用减少60%，能显著降低企业开发成本，具有明确的市场竞争力。
趋势预测：高
扩散模型在文本生成领域的应用可能成为下一代大语言模型的重要方向，尤其是在需要高速、高准确性的场景中。