我们能否避免历史十字路口上的战争？这个问题已经被个人、学者、政策制定者和组织在人类历史中追寻了很长时间。在这项研究中，我们尝试根据人工智能（AI）和大型语言模型（LLM）的最新进展来回答这个问题。我们提出了一个名为\textbf{WarAgent}的LLM驱动的多智能体AI系统，用于模拟历史上的国际冲突，包括第一次世界大战（WWI）、第二次世界大战（WWII）和中国古代的战国时期（WSP）中参与国家的决策和后果。通过评估模拟的有效性，我们研究了尖端AI系统在研究复杂的集体人类行为（例如在不同环境下的国际冲突）方面的能力的进展和限制。在这些模拟中，智能体之间的紧密互动也为研究导致战争的触发因素和条件提供了一种新的视角。我们的发现提供了数据驱动和AI增强的见解，可以重新定义我们如何处理冲突解决和维和策略。这些影响超越了历史分析，为使用AI理解人类历史并可能预防未来国际冲突提供了一个蓝图。代码和数据可在\url{https://github.com/agiresearch/WarAgent}上获得。

一个更简单直接的程序是提高可维护性、编写安全和无错误程序的关键因素。然而，由于工作量大和破坏已有程序的风险，程序员不愿意进行代码重构，这也导致潜在的学习经验的流失。为了缓解这种情况，我们展示了使用大型语言模型（LLM）GPT-3.5 来建议用户编写的 Python 程序的简化版本的应用，旨在鼓励用户学习如何编写更好的程序。我们提出了一种方法，利用 LLM 的少样本提示，通过在先前的单次示例评估基础上选择最适合每个目标编程问题的代码重构示例。定量评估表明，通过生成每个程序10个候选项，95.68% 的程序可以进行重构，平均圈复杂度减少了17.35%，平均行数减少了25.84%，过滤掉只生成语义正确的程序。此外，定性评估显示出了出色的代码格式化能力，同时还观察到了删除或翻译注释等不必要的行为。

通用的基础模型，如GPT-4，在各种领域和任务中展示了惊人的能力。然而，普遍存在一种假设，即它们无法匹配精细调整模型的专业能力。例如，迄今为止大多数关于医学能力基准的探索都利用了领域特定的训练，如BioGPT和Med-PaLM。我们在之前对GPT-4在医学挑战基准测试中的能力的研究基础上进行了构建，而不是使用简单的提示来突出模型的开箱即用能力，我们进行了系统的提示工程探索。我们发现，提示创新可以解锁更深层次的专业能力，并且证明GPT-4很容易超越以前医学基准测试的领先结果。我们探索的提示方法是通用的，没有特定的领域专业知识，消除了需要专家策划内容的需求。我们的实验设计在提示工程过程中仔细控制过拟合。我们介绍了Medprompt，它基于几种提示策略的组合。使用Medprompt，GPT-4在MultiMedQA套件的所有九个基准数据集上都取得了最新的成果。该方法以数量级较少的模型调用次数显著优于领先的专业模型，如Med-PaLM 2。在MedQA数据集上，通过Medprompt引导GPT-4可以将错误率降低27％，超过迄今为止使用专业模型实现的最佳方法，并首次超过90％的得分。除了医学问题，我们展示了Medprompt的普适性，提供了该方法在电气工程、机器学习、哲学、会计、法律、护理和临床心理学考试中的研究证据。

虽然大型语言模型（LLMs）在许多任务中取得了显著的表现，但它们内部运作的许多方面仍然不清楚。在这项研究中，我们提出了一种新的实验性见解，探究LLMs，特别是GPT-4，在经受大量字符级置换时的韧性。为了研究这一点，我们首先提出了Scrambled Bench，一个旨在测量LLMs处理混淆输入的能力的套件，包括从混淆的句子中恢复以及在给定混淆上下文的情况下回答问题。实验结果表明，大多数强大的LLMs表现出类似于typoglycemia的能力，这是一种现象，即即使单词中的字母被混淆，只要第一个和最后一个字母保持不变，人类也能理解单词的含义。更令人惊讶的是，我们发现只有GPT-4几乎完美地处理具有不自然错误的输入，即使在极端条件下，这项任务对于其他LLMs甚至对于人类来说都具有重大挑战。具体而言，即使每个单词中的所有字母都被完全混淆，GPT-4几乎可以完美地重构原始句子，将编辑距离降低了95％。尽管输入标记化受到混淆文本的严重干扰，但LLMs可以表现出如此的韧性，这是违反直觉的。

尽管文本到图像模型（T2I）已经取得了广泛的成功，但它们仍然难以产生既美观又忠实于用户输入文本的图像。我们引入了DreamSync，这是一种无模型偏见的训练算法，旨在改进T2I模型以忠实于文本输入。DreamSync基于TIFA评估框架的最新见解构建，即大型视觉语言模型（VLM）可以有效地识别生成的图像与文本输入之间的细微差异。DreamSync利用这一见解，无需任何标记数据即可训练T2I模型；它使用自己的生成来改进T2I模型。首先，它提示模型为给定的输入文本生成多个候选图像。然后，它使用两个VLM来选择最佳的生成：一个视觉问答模型，用于测量生成的图像与文本的对齐程度；另一个用于测量生成的美学质量。选择后，我们使用LoRA来迭代地微调T2I模型，以引导其生成朝向所选的最佳生成。DreamSync不需要任何额外的人工注释、模型架构更改或强化学习。尽管它很简单，但DreamSync改进了两个基于扩散的T2I模型的语义对齐和美学吸引力，这在多个基准测试中得到了证明（TIFA上+1.7％，DSG1K上+2.9％，VILA美学上+3.4％），并经过人类评估。

鉴于AI素养的日益重要，我们决定编写这篇教程，以帮助缩小那些研究语言模型的人与那些对它们感到好奇并想要了解更多的人之间的差距。简而言之，我们认为研究人员和教育工作者的观点可以为公众对技术的理解增加一些清晰度，超出目前可用的范围，这些范围往往要么极其技术化，要么是产品供应商生成的宣传材料。我们的方法将语言模型的概念从建立在它们之上的产品、归因于或期望从这些产品中获得的行为以及关于与人类认知的相似性的声明中分离出来。作为起点，我们（1）提供了一个科学观点，重点关注可以通过实验研究的问题；（2）将现今的语言模型置于导致它们发展的研究背景中；以及（3）描述了目前对这些模型已知的范围。

传统上，大型语言模型通常是在大型指令数据集上微调的。然而，最近的研究表明，小型、高质量的数据集已经足以实现通用指令跟随。由于对LLM评估方法的快速分歧，这种微调最佳实践的缺乏共识部分是由于不断分歧的方法。在这项研究中，我们询问是否少量多样化的微调样本可以提高传统基于困惑度的NLP基准和基于模型的开放式评估的性能。我们在各种大小的指令微调数据集上微调开源MPT-7B和MPT-30B模型，这些数据集的样本数量从1k到60k不等。我们发现，1k-6k指令微调样本的子集足以在传统的NLP基准和基于模型的评估上实现良好的性能。最后，我们展示了混合教科书风格和开放式QA微调数据集可以优化两种评估范式的性能。

大型语言模型（LLMs）极大地增强了语言智能领域，其在各种复杂推理任务中的强大实证表现证明了这一点。此外，理论证明已经阐明了它们的新兴推理能力，提供了一个令人信服的展示，证明了它们在语言环境中的先进认知能力。在处理复杂推理任务方面，CoT推理技术对于LLMs的显著功效至关重要，因为它们必须制定中间步骤以便推导出答案。CoT推理方法不仅在增强推理性能方面表现出熟练的能力，而且在提高可解释性、可控性和灵活性方面也表现出了优异的能力。鉴于这些优点，最近的研究努力将CoT推理方法扩展到培养自主语言代理的发展，这些代理能够熟练地遵循语言指令并在不同环境中执行动作。本文梳理了一个全面的讨论，深入探讨了重要的研究维度，包括：（i）CoT技术的基础机制，重点阐述其功效的情况和理由；（ii）CoT的范式转变；以及（iii）由CoT方法强化的语言代理的兴起。未来的研究方向包括探索泛化、效率、定制、扩展和安全性。本文适合广泛的受众，包括寻求全面了解CoT推理和语言代理的初学者，以及对基础机制感兴趣并参与最前沿讨论的经验丰富的研究人员。相关论文的存储库可在https://github.com/Zoeyyao27/CoT-Igniting-Agent上找到。

在2022年末发布后，ChatGPT在AI领域的研究和商业方面带来了巨大的变革。通过使用监督微调和强化学习从人类反馈中调整大型语言模型（LLM），它表明模型可以回答人类的问题并在广泛的任务面板上遵循指令。随着这一成功，LLM的兴趣不断增强，包括许多专注于LLM的初创企业在内，学术界和行业中不断涌现出新的LLM。尽管封闭源代码的LLM（例如OpenAI的GPT、Anthropic的Claude）通常表现优于其开源对应物，但后者的进展非常迅速，声称在某些任务上达到或甚至更好的水平，这不仅对研究而且对商业都具有重要意义。在ChatGPT一周年之际，本文提供了一个详尽的概述，调查了所有开源LLM声称与ChatGPT相当或更好的任务。

本文介绍了一种学术知识图谱问答（KGQA）系统，通过利用大型语言模型（LLM），以少量数据进行训练，回答文献自然语言问题。该模型首先通过基于BERT的句子编码器识别与给定测试问题相关的前n个相似训练问题，并检索它们对应的SPARQL。使用前n个相似的问题-SPARQL对作为示例，以及测试问题创建提示。然后将提示传递给LLM并生成SPARQL。最后，对底层KG-ORKG（Open Research KG）端点运行SPARQL并返回答案。我们的系统在Scholarly-QALD-23挑战基准测试之一SciQA上实现了99.0％的F1得分。