Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4

Sondos Mahmoud Bsharat,
Aidar Myrzakhan,
Zhiqiang Shen
2221
热度
NLP
AI
2023年12月26日
  • 简介
    本文介绍了26个指导原则,旨在简化针对大型语言模型的查询和提示过程中的基本概念,检查它们的能力,并增强用户对不同规模的大型语言模型在不同提示下的行为的理解。对LLaMA-1/2(7B、13B和70B)、GPT-3.5/4进行了广泛的实验,以验证所提出的指导原则在指令和提示设计方面的有效性。我们希望这项工作为从事大型语言模型提示的研究人员提供更好的指导。项目页面可在https://github.com/VILA-Lab/ATLAS上找到。
  • 图表
  • 解决问题
    该论文旨在引入26个指导原则,旨在简化大型语言模型的查询和提示过程,以提高用户理解不同规模的大型语言模型在不同提示下的行为。
  • 关键思路
    该论文提出了一种简化大型语言模型提示设计的方法,通过实验验证了这些指导原则的有效性。
  • 其它亮点
    论文使用LLaMA-1/2 (7B, 13B和70B)、GPT-3.5/4等数据集进行了实验,证明了该方法的有效性。该论文提供了一个项目页面https://github.com/VILA-Lab/ATLAS。值得关注的是,该论文提出的方法可以为研究人员提供更好的大型语言模型提示设计指南。
  • 相关研究
    最近的相关研究包括“GPT Understand:A Framework for Improving Language Model Robustness through Understanding”和“Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer”。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论