这本书是关于大型语言模型的。如标题所示，本书主要关注基础概念，而不是全面涵盖所有前沿技术。全书分为四个主要章节，每一章探讨一个关键领域：预训练、生成模型、提示技术以及对齐方法。本书面向自然语言处理及相关领域的大学生、专业人士和从业者，并可作为对大型语言模型感兴趣的任何人的参考读物。

我们对四个系统（ELIZA、GPT-4o、LLaMa-3.1-405B 和 GPT-4.5）进行了两项针对独立人群的随机化、对照且预先注册的图灵测试评估。参与者与另一位人类参与者和其中一个系统同时进行五分钟的对话，然后判断他们认为哪个对话对象是人类。当被提示采用类人的人格时，GPT-4.5 被判定为人类的比例高达 73%，显著高于参与者选择真实人类的比例。同样在该提示下，LLaMa-3.1 被判定为人类的比例为 56%，这一比例并未显著高于或低于与其对比的真实人类的表现；而基线模型（ELIZA 和 GPT-4o）的胜率显著低于随机水平（分别为 23% 和 21%）。这些结果首次提供了任何人工系统通过标准三方图灵测试的实证证据。研究结果对关于大型语言模型（LLMs）所展现的智能类型以及这些系统可能带来的社会和经济影响的讨论具有重要意义。

本文研究了大型语言模型（LLMs）在战略决策情境中的理性问题，特别是在博弈论框架下。我们评估了几种最先进的LLM在完全信息和不完全信息游戏中的表现。研究结果表明，随着游戏复杂度的增加（例如更大的收益矩阵或更深的序列树），LLM经常偏离理性策略。 为了解决这些局限性，我们设计了多个博弈论工作流程，以指导LLM的推理和决策过程。这些工作流程旨在提高模型计算纳什均衡和在不确定性及不完全信息条件下做出理性选择的能力。实验结果表明，采用这些工作流程显著提高了LLM在博弈论任务中的理性和稳健性。具体而言，在使用工作流程后，LLM在识别最优策略、实现接近最优的谈判分配以及减少谈判过程中被利用的可能性方面表现出显著改进。此外，我们还探讨了代理是否应采用这些工作流程的元战略考虑，认识到使用或放弃工作流程本身就是一个博弈论问题。 我们的研究加深了对LLM在战略情境中决策能力的理解，并提供了通过结构化工作流程增强其理性的见解。研究结果对于开发更稳健且战略上更为合理的AI代理具有重要意义，这些代理能够应对复杂的互动环境。支持本研究的代码和数据可在以下网址获取：\url{https://github.com/Wenyueh/game_theory}。

我们认为，AI模型中的表示，特别是深度网络中的表示，正在趋于一致。首先，我们在文献中调查了许多收敛的例子：随着时间的推移和跨多个领域，不同神经网络表示数据的方式越来越趋于一致。接下来，我们展示了跨数据模态的收敛：随着视觉模型和语言模型变得更大，它们以越来越相似的方式测量数据点之间的距离。我们假设这种收敛正在朝着一个共享的统计现实模型发展，类似于柏拉图的理念。我们将这样的表示称为柏拉图表示，并讨论了几种可能的选择压力。最后，我们讨论了这些趋势的影响、它们的局限性以及我们分析的反例。

在许多机器人和虚拟现实/增强现实（VR/AR）应用中，快速的相机运动会导致严重的运动模糊，从而使现有的相机姿态估计方法失效。在这项工作中，我们提出了一种全新的框架，该框架将运动模糊作为一种丰富的运动估计线索加以利用，而不是将其视为不需要的伪影。我们的方法通过从单张运动模糊图像中直接预测密集的运动流场和单目深度图来实现这一目标。接着，在小运动假设下，我们通过求解一个线性最小二乘问题来恢复相机的瞬时速度。本质上，我们的方法生成了一种类似惯性测量单元（IMU）的测量值，能够稳健地捕捉快速且剧烈的相机运动。为了训练我们的模型，我们构建了一个大规模数据集，其中包含从ScanNet++v2派生的逼真的合成运动模糊，并进一步通过我们在真实数据上的端到端训练管道对模型进行优化。在真实世界基准上的广泛评估表明，我们的方法在角速度和平移速度估计方面达到了最先进的水平，超越了当前的方法如MASt3R和COLMAP。

大型语言模型展示了卓越的能力，但其计算需求非常高。虽然最近的研究表明，中间层可以被移除或顺序被打乱而不显著影响性能，但这些发现尚未被用于减少推理的计算成本。我们研究了几种在不显著影响性能的情况下减少预训练大型语言模型深度的潜在方法。基于我们的见解，我们提出了一种新颖的方法，通过将某些层配对并行评估来利用这些层之间的解耦。 这种通过对计算图的修改——即通过更好的并行性——使得每秒生成的令牌数量平均提高了约1.20倍，且无需重新训练或微调，同时保留了95%-99%的原始准确性。实证评估表明，这种方法显著提高了服务效率，同时保持了模型性能，为大规模部署大型语言模型提供了实际改进。

我们提出了 Rec-R1，这是一个通用的强化学习框架，通过闭环优化将大型语言模型（LLMs）与推荐系统连接起来。与提示工程和监督微调（SFT）不同，Rec-R1 直接利用来自固定黑盒推荐模型的反馈来优化 LLM 的生成结果，而无需依赖于如 GPT-4o 等专有模型生成的合成 SFT 数据。这避免了数据蒸馏所需的大量成本和精力。为了验证 Rec-R1 的有效性，我们在两个代表性任务上对其进行了评估：产品搜索和顺序推荐。实验结果表明，Rec-R1 不仅始终优于基于提示和 SFT 的方法，而且即使与简单的检索器（如 BM25）结合使用时，也对强大的判别性基线模型实现了显著超越。此外，与常常损害指令遵循能力和推理能力的 SFT 不同，Rec-R1 保留了 LLM 的通用能力。这些发现表明，Rec-R1 是一个有前景的基础框架，能够在不发生灾难性遗忘的情况下实现持续的任务特定适应。

自19世纪热力学中起源以来，熵的概念也渗透到了物理学和数学的其他领域，例如经典和量子统计力学、信息论、概率论、遍历理论以及动力系统理论。具体来说，我们指的是经典的熵：玻尔兹曼-吉布斯熵、冯·诺依曼熵、香农熵、柯尔莫哥洛夫-辛钦熵和拓扑熵。除了它们共同的名字在历史上有其合理性（我们在本文中简要描述）之外，这些经典熵的另一个共同点是它们在过去和现在在其各自领域及其以外的理论和应用中所发挥的重要作用。因此，随着时间的推移，提出了许多其他形式的广义熵概念，其中大多数是为了特定目的而量身定制的。按照当前的用法，我们将所有这些熵，无论是经典的还是新的，统称为熵。确切地说，本文综述的主题是它们在数据分析和机器学习中的应用。选择这些特定应用的原因在于，熵非常适合表征由有限状态过程或符号化信号生成的概率质量分布。因此，我们将专注于定义为概率质量分布上的正泛函的熵，并提供一个可以追溯到香农和欣钦的公理化特征。鉴于文献中存在大量的熵，我们选择了一组具有代表性的熵，包括经典熵。本文综述总结的应用充分展示了熵在数据分析和机器学习中的强大功能和灵活性。

机器学习正日益通过计算能力的进步以及来自实验和模拟的大型数据集的获取，来推动各个科学领域的发展。随着人工智能（AI）能力的不断提升，这些算法将助力许多超越人类能力范围的科学发现。由于科学的主要目标是理解我们周围的这个世界，要充分挖掘机器学习在科学发现中的潜力，就需要构建可解释的模型——使专家能够理解机器学习预测背后的原理。成功的解释不仅能够增强对“黑箱”方法的信任，帮助减少错误，还能改进底层模型，促进人与人工智能之间的协作，并最终实现完全自动化的科学发现，同时确保这些发现仍为人类科学家所理解。本综述探讨了可解释性在物理学中应用机器学习时的作用。我们对可解释性的不同方面进行了分类，从可解释性和性能两个角度分析了机器学习模型，并探讨了可解释性在科学研究中的哲学意义。此外，我们还总结了物理学科多个子领域中可解释机器学习的最新进展。通过连接各学科之间的界限——每个学科都有其独特的见解与挑战——我们希望将可解释的机器学习确立为科学研究的核心关注点之一。

生成式人工智能模型越来越多地为软件应用程序提供动力，能够在不同的上下文中产生有表现力的内容。然而，与以前的人工智能设计不同，新兴的生成能力设计过程主要依赖于提示工程策略。鉴于这种基本的方法转变，我们的工作旨在了解协作软件团队如何建立和应用设计准则和价值观，迭代地原型化提示，并评估提示以实现期望的结果。我们与39名行业专业人士进行了设计研究，包括设计师、软件工程师和产品经理。我们的发现揭示了一个以内容为中心的原型设计方法，团队从他们想要生成的内容开始，然后确定特定的属性、约束和价值，并探索方法来让用户能够影响和与这些属性交互。基于相关的挑战，例如模型可解释性的缺乏和将设计过度拟合到示例中，我们概述了生成式人工智能原型设计的注意事项。