
GPT-4推理能力暴涨32%,谷歌新型思维链效果超CoT,计算成本可降至1/40
GPT-4推理能力暴涨32%,谷歌新型思维链效果超CoT,计算成本可降至1/40谷歌&南加大推出最新研究“自我发现”(Self-Discover),重新定义了大模型推理范式。与已成行业标准的思维链(CoT)相比,新方法不仅让模型在面对复杂任务时表现更佳,还把同等效果下的推理成本压缩至1/40。
来自主题: AI技术研报
3833 点击 2024-02-08 19:44
谷歌&南加大推出最新研究“自我发现”(Self-Discover),重新定义了大模型推理范式。与已成行业标准的思维链(CoT)相比,新方法不仅让模型在面对复杂任务时表现更佳,还把同等效果下的推理成本压缩至1/40。
本文对思维链的推理步长进行了控制变量实验,发现推理步长和答案的准确性是线性相关的,这种影响机制甚至超越了问题本身所产生的差异。
激发大模型解决复杂问题的重要技术之一CoT,如今要被颠覆了?谷歌DeepMind斯坦福UC伯克利共同提出了「代码链」(CoC),让LLM在代码中学会了思考。
弗吉尼亚理工大学和微软的研究人员两周前发现了一种新方法AoT,可以对抗思想树ToT,将所需的查询显著减少100倍。是的,您没有看错——这将显著提速增效。