SymbolicAI: A framework for logic-based approaches combining generative models and solvers

Marius-Constantin Dinu,
Claudiu Leoveanu-Condrei,
Markus Holzleitner,
Werner Zellinger,
Sepp Hochreiter
607
热度
ML
AI
Social
SoftEng
2024年02月01日
  • 简介
    我们介绍了SymbolicAI,这是一个多功能的、模块化的框架,采用基于逻辑的方法进行生成过程中的概念学习和流程管理。SymbolicAI通过将大型语言模型(LLMs)视为语义解析器,根据自然语言和形式语言指令执行任务,从而弥合了符号推理和生成AI之间的差距,使生成模型与各种求解器无缝集成。我们利用概率编程原理来解决复杂任务,并利用可微分和经典编程范式及其各自的优势。该框架引入了一组多态、组合和自我引用操作,用于数据流操作,将LLM输出与用户目标对齐。因此,我们可以在各种具有零点和少量学习能力的基础模型和专业的、精细调整的模型或求解器之间进行转换,这些模型或求解器擅长解决特定的问题。反过来,该框架有助于创建和评估可解释的计算图。最后,我们介绍了一种质量度量及其经验得分,用于评估这些计算图,并提出了一个基准,比较各种复杂工作流程中各种最先进的LLMs。我们将经验得分称为“通过交叉相似性的关系轨迹评估的向量嵌入”,简称VERTEX得分。该框架代码库和基准测试如下链接。
  • 图表
  • 解决问题
    SymbolicAI框架试图解决如何将大型语言模型与符号推理相结合,以实现生成AI的任务。
  • 关键思路
    该框架使用逻辑推理方法进行概念学习和流程管理,利用概率编程原理处理复杂任务,同时结合自然语言和形式语言指令,将大型语言模型视为语义解析器,从而实现符号推理和生成AI之间的桥梁。
  • 其它亮点
    该框架引入了一组多态、组合和自引用操作,用于数据流操作,并将大型语言模型的输出与用户目标对齐。此外,该论文提出了一种名为VERTEX的质量评估指标,用于评估计算图的质量,并提供了一个基准来比较各种最先进的大型语言模型。
  • 相关研究
    最近的相关研究包括《GPT》、《BERT》和《Transformer-XL》等大型语言模型。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论