本文提出了一种具有大型语言模型的自我规划的代码生成方法,它由两个阶段组成,即规划阶段和实施阶段。具体来说,在规划阶段,语言模型从意图出发,结合语境学习,规划出解决步骤。然后进入实施阶段,模型在解决步骤的指导下一步一步地生成代码。
Self-planning Code Generation with Large Language Model
Xue Jiang, Yihong Dong, Lecheng Wang, Qiwei Shang, Ge Li
[Key Lab of High Confidence Software Technology (PKU) & Peking University]
- 尽管大型语言模型在代码生成中表现出了令人印象深刻的能力,但它们仍在努力解决人类提供的复杂意图。人们普遍认为,人类通常采用规划来分解复杂的问题,并在实施之前安排解决步骤。
- 因此,可以将规划引入到代码生成中,以帮助模型理解复杂的意图并降低问题解决的难度。
- 本文提出了一种具有大型语言模型的自我规划的代码生成方法,它由两个阶段组成,即规划阶段和实施阶段。具体来说,在规划阶段,语言模型从意图出发,结合语境学习,规划出解决步骤。然后进入实施阶段,模型在解决步骤的指导下一步一步地生成代码。
- 自我规划代码生成的有效性已经在多个代码生成数据集上进行了严格的评估,结果表明,与带有语言模型的天真直接生成方法相比,它具有明显的优势。性能的提高是实质性的,突出了自我规划在代码生成任务中的意义。
https://arxiv.org/pdf/2303.06689.pdf
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢