论文提出了一种新方法,称为Program-Aided Language Model (PAL),该方法让LLM生成程序作为中间推理步骤,而将实际求解步骤交给外部的Python解释器来完成。具体而言,LLM负责将自然语言问题分解成可运行的编程步骤,这些步骤由Python解释器执行以生成最终答案。PAL的核心在于,LLM只负责问题的分解和编程,避免了计算错误的发生。
思维链推理以蓝色突出显示;PAL步骤以灰色和粉色突出显示;Python解释器运行以黑色和绿色突出显示。 3. Program-aided Language Models 在程序辅助语言模型中,我们提出了一种方法,为给定的自然语言问题x生成思想t,它们是交错的自然语言(NL)和编程语言(PL)语句。由于我们将解决方案步骤委托给解释器,因此我们不会在提示中提...
1Language Technologies Institute, School of CS, Carnegie Mellon University 2Inspired Cognition,*Equal contribution PaperColabCodeData PALgenerates a Python program to solve a task from its natural language description. Abstract We presentProgram-Aided Language models (PAL): a new method that uses the...
Pal: Program-aided language models. In International Conference on Machine Learning (pp. 10764-10799). PMLR. 2. 核心内容 CoT方法存在的一个问题是,即使LLMs分解得到的中间推理步骤是正确的,依然有可能得到错误的最终答案。为解决该问题,本文作者提出PAL,一种程序辅助式Prompting方法。PAL的核心思路是将CoT...