我们能否避免历史十字路口上的战争？这个问题已经被个人、学者、政策制定者和组织在人类历史中追寻了很长时间。在这项研究中，我们尝试根据人工智能（AI）和大型语言模型（LLM）的最新进展来回答这个问题。我们提出了一个名为\textbf{WarAgent}的LLM驱动的多智能体AI系统，用于模拟历史上的国际冲突，包括第一次世界大战（WWI）、第二次世界大战（WWII）和中国古代的战国时期（WSP）中参与国家的决策和后果。通过评估模拟的有效性，我们研究了尖端AI系统在研究复杂的集体人类行为（例如在不同环境下的国际冲突）方面的能力的进展和限制。在这些模拟中，智能体之间的紧密互动也为研究导致战争的触发因素和条件提供了一种新的视角。我们的发现提供了数据驱动和AI增强的见解，可以重新定义我们如何处理冲突解决和维和策略。这些影响超越了历史分析，为使用AI理解人类历史并可能预防未来国际冲突提供了一个蓝图。代码和数据可在\url{https://github.com/agiresearch/WarAgent}上获得。

一个更简单直接的程序是提高可维护性、编写安全和无错误程序的关键因素。然而，由于工作量大和破坏已有程序的风险，程序员不愿意进行代码重构，这也导致潜在的学习经验的流失。为了缓解这种情况，我们展示了使用大型语言模型（LLM）GPT-3.5 来建议用户编写的 Python 程序的简化版本的应用，旨在鼓励用户学习如何编写更好的程序。我们提出了一种方法，利用 LLM 的少样本提示，通过在先前的单次示例评估基础上选择最适合每个目标编程问题的代码重构示例。定量评估表明，通过生成每个程序10个候选项，95.68% 的程序可以进行重构，平均圈复杂度减少了17.35%，平均行数减少了25.84%，过滤掉只生成语义正确的程序。此外，定性评估显示出了出色的代码格式化能力，同时还观察到了删除或翻译注释等不必要的行为。

虽然最初的Structure-from-Motion（SfM）方法既包括全局方法又包括增量方法，但最近的大多数应用都依赖于增量系统来估计相机姿态，因为它们具有更强的鲁棒性。虽然基于从数据中学习的深度模型的SfM“前端”取得了巨大进展，但最先进的（增量）SfM流水线仍然依赖于2004年开发的经典SIFT特征。在这项工作中，我们研究了利用特征提取和匹配的发展是否有助于全局SfM与SOTA增量SfM方法（COLMAP）表现相当。为此，我们设计了一个模块化的SfM框架，使我们能够轻松地结合SfM流水线不同阶段的发展。我们的实验表明，虽然基于深度学习的两视图对应估计的发展确实能够将全局SfM重建的场景的点密度提高，但在一系列数据集上与增量SfM结果进行比较时，它们都没有超过SIFT。我们的SfM系统从头开始设计，利用分布式计算，使我们能够在多台计算机上并行计算并扩展到大型场景。

虽然大型语言模型（LLMs）在许多任务中取得了显著的表现，但它们内部运作的许多方面仍然不清楚。在这项研究中，我们提出了一种新的实验性见解，探究LLMs，特别是GPT-4，在经受大量字符级置换时的韧性。为了研究这一点，我们首先提出了Scrambled Bench，一个旨在测量LLMs处理混淆输入的能力的套件，包括从混淆的句子中恢复以及在给定混淆上下文的情况下回答问题。实验结果表明，大多数强大的LLMs表现出类似于typoglycemia的能力，这是一种现象，即即使单词中的字母被混淆，只要第一个和最后一个字母保持不变，人类也能理解单词的含义。更令人惊讶的是，我们发现只有GPT-4几乎完美地处理具有不自然错误的输入，即使在极端条件下，这项任务对于其他LLMs甚至对于人类来说都具有重大挑战。具体而言，即使每个单词中的所有字母都被完全混淆，GPT-4几乎可以完美地重构原始句子，将编辑距离降低了95％。尽管输入标记化受到混淆文本的严重干扰，但LLMs可以表现出如此的韧性，这是违反直觉的。

尽管文本到图像模型（T2I）已经取得了广泛的成功，但它们仍然难以产生既美观又忠实于用户输入文本的图像。我们引入了DreamSync，这是一种无模型偏见的训练算法，旨在改进T2I模型以忠实于文本输入。DreamSync基于TIFA评估框架的最新见解构建，即大型视觉语言模型（VLM）可以有效地识别生成的图像与文本输入之间的细微差异。DreamSync利用这一见解，无需任何标记数据即可训练T2I模型；它使用自己的生成来改进T2I模型。首先，它提示模型为给定的输入文本生成多个候选图像。然后，它使用两个VLM来选择最佳的生成：一个视觉问答模型，用于测量生成的图像与文本的对齐程度；另一个用于测量生成的美学质量。选择后，我们使用LoRA来迭代地微调T2I模型，以引导其生成朝向所选的最佳生成。DreamSync不需要任何额外的人工注释、模型架构更改或强化学习。尽管它很简单，但DreamSync改进了两个基于扩散的T2I模型的语义对齐和美学吸引力，这在多个基准测试中得到了证明（TIFA上+1.7％，DSG1K上+2.9％，VILA美学上+3.4％），并经过人类评估。

我们介绍了SODA，一种自监督扩散模型，旨在进行表示学习。该模型包含图像编码器，它将源视图提炼为紧凑的表示形式，进而指导相关新视图的生成。我们展示了通过在编码器和去噪解码器之间施加紧密的瓶颈，并利用新视图合成作为自监督目标，我们可以将扩散模型转化为强大的表示学习器，能够以无监督的方式捕捉视觉语义。据我们所知，SODA是第一个成功进行ImageNet线性探针分类的扩散模型，并且它能够在各种数据集上完成重建、编辑和合成任务。进一步的研究揭示了其出现的潜在空间的分离性质，这是控制和操作模型生成的图像的有效接口。总的来说，我们旨在揭示扩散模型的令人兴奋和有前途的潜力，不仅用于图像生成，也用于学习丰富和强大的表示。

鉴于AI素养的日益重要，我们决定编写这篇教程，以帮助缩小那些研究语言模型的人与那些对它们感到好奇并想要了解更多的人之间的差距。简而言之，我们认为研究人员和教育工作者的观点可以为公众对技术的理解增加一些清晰度，超出目前可用的范围，这些范围往往要么极其技术化，要么是产品供应商生成的宣传材料。我们的方法将语言模型的概念从建立在它们之上的产品、归因于或期望从这些产品中获得的行为以及关于与人类认知的相似性的声明中分离出来。作为起点，我们（1）提供了一个科学观点，重点关注可以通过实验研究的问题；（2）将现今的语言模型置于导致它们发展的研究背景中；以及（3）描述了目前对这些模型已知的范围。

传统上，大型语言模型通常是在大型指令数据集上微调的。然而，最近的研究表明，小型、高质量的数据集已经足以实现通用指令跟随。由于对LLM评估方法的快速分歧，这种微调最佳实践的缺乏共识部分是由于不断分歧的方法。在这项研究中，我们询问是否少量多样化的微调样本可以提高传统基于困惑度的NLP基准和基于模型的开放式评估的性能。我们在各种大小的指令微调数据集上微调开源MPT-7B和MPT-30B模型，这些数据集的样本数量从1k到60k不等。我们发现，1k-6k指令微调样本的子集足以在传统的NLP基准和基于模型的评估上实现良好的性能。最后，我们展示了混合教科书风格和开放式QA微调数据集可以优化两种评估范式的性能。

在历史上，我们成功地将各种机器整合到我们的家庭中，如洗碗机、洗衣机、搅拌器和机器人吸尘器等。然而，这些机器只擅长执行单一任务。在家庭中使用“通用机器”——一种能够适应和学习我们需求的家庭助手，同时保持成本效益，一直是机器人技术领域追求的目标。在这项工作中，我们通过引入Dobb-E来推动实现这一目标的大规模努力，这是一个价格实惠且多功能的普适学习机器人系统，适用于家庭环境。Dobb-E只需要用户展示如何执行任务的5分钟，就能学习一项新任务，这得益于我们使用廉价零件和iPhone制作的演示收集工具（“The Stick”）。我们使用The Stick在纽约市的22个家庭中收集了13小时的数据，并训练出家庭预先训练的表示（HPR）。然后，在一个新颖的家庭环境中，通过展示5分钟的演示和15分钟的调整HPR模型，我们展示了Dobb-E可以在市场上随时可得的移动机器人Stretch上可靠地解决任务。在纽约市及周边地区的家庭中进行了约30天的实验，在10个家庭中测试了我们的系统，完成了109个不同环境下的任务，最终获得了81%的成功率。除了成功率之外，我们的实验还揭示了许多实验室机器人中不存在或被忽略的独特挑战，从强阴影的影响到非专业用户的演示质量的变化。希望能够加速家庭机器人的研究，并最终在每个家庭中看到机器人管家，我们在https://dobb-e.com上开源了Dobb-E软件堆栈和模型、我们的数据和硬件设计。

大型语言模型（LLMs）极大地增强了语言智能领域，其在各种复杂推理任务中的强大实证表现证明了这一点。此外，理论证明已经阐明了它们的新兴推理能力，提供了一个令人信服的展示，证明了它们在语言环境中的先进认知能力。在处理复杂推理任务方面，CoT推理技术对于LLMs的显著功效至关重要，因为它们必须制定中间步骤以便推导出答案。CoT推理方法不仅在增强推理性能方面表现出熟练的能力，而且在提高可解释性、可控性和灵活性方面也表现出了优异的能力。鉴于这些优点，最近的研究努力将CoT推理方法扩展到培养自主语言代理的发展，这些代理能够熟练地遵循语言指令并在不同环境中执行动作。本文梳理了一个全面的讨论，深入探讨了重要的研究维度，包括：（i）CoT技术的基础机制，重点阐述其功效的情况和理由；（ii）CoT的范式转变；以及（iii）由CoT方法强化的语言代理的兴起。未来的研究方向包括探索泛化、效率、定制、扩展和安全性。本文适合广泛的受众，包括寻求全面了解CoT推理和语言代理的初学者，以及对基础机制感兴趣并参与最前沿讨论的经验丰富的研究人员。相关论文的存储库可在https://github.com/Zoeyyao27/CoT-Igniting-Agent上找到。