LLMs are Meaning-Typed Code Constructs

本文介绍了一种名为生成AI（GenAI）模型的编程方式，它是神经符号编程的一种形式，在许多领域得到了广泛应用。然而，目前在代码中利用GenAI模型可能会很复杂、不直观，并且通常需要专门的框架，从而增加了复杂性。这是因为目前还不清楚我们应该通过哪些正确的抽象来将GenAI模型与传统编程代码结构相结合。在本文中，我们介绍了一组新的抽象概念，以帮助弥合神经符号编程之间的差距。我们引入了"Meaning"，这是一种新的专门类型，代表传统类型（例如字符串）的底层语义值。我们认为应该将GenAI模型，特别是LLMs，作为一种在语言层面上包装代码结构的含义类型来进行推理。我们阐述了含义类型和传统类型之间的翻译问题，并提出了自动含义类型转换（A-MTT）的运行时特性，通过在LLM调用接口自动转换含义和类型来抽象开发人员的翻译工作。利用这组新的代码结构和OTT，我们演示了神经符号程序的示例实现，它们无缝地利用LLMs来解决问题，取代了潜在复杂的传统编程逻辑。

论文旨在解决将GenAI模型与传统编程代码结构相结合的问题，提出了一组新的抽象概念来桥接神经符号编程和符号编程之间的差距。

论文提出了一种称为“Meaning”的新型专门类型，表示传统类型（例如字符串）的潜在语义值。将GenAI模型（特别是LLMs）视为语言级别上的含义类型封装代码构造，并提出了自动含义类型转换（A-MTT）的运行时特性来解决含义和传统类型之间的转换问题。

论文提出了一组新的代码构造和A-MTT，演示了神经符号程序的示例实现，无需复杂的传统编程逻辑即可无缝地利用LLMs解决问题。

最近的相关研究包括“Neuro-Symbolic Program Synthesis”和“Neuro-Symbolic Concept Learner”。