我们介绍了第一代推理模型DeepSeek-R1-Zero和DeepSeek-R1。DeepSeek-R1-Zero是一个通过大规模强化学习（RL）训练的模型，在初步步骤中没有使用监督微调（SFT），它展示了出色的推理能力。通过强化学习，DeepSeek-R1-Zero自然地展现出许多强大且有趣的推理行为。然而，它也遇到了一些挑战，如可读性差和语言混用问题。为了解决这些问题并进一步提升推理性能，我们引入了DeepSeek-R1，该模型在强化学习之前结合了多阶段训练和冷启动数据。DeepSeek-R1在推理任务上的表现与OpenAI-o1-1217相当。为了支持研究社区，我们开源了DeepSeek-R1-Zero、DeepSeek-R1以及从DeepSeek-R1基于Qwen和Llama蒸馏出的六个密集模型（分别为15亿、70亿、80亿、140亿、320亿和700亿参数）。

多视图3D重建仍然是计算机视觉中的一个核心挑战，特别是在需要跨多种视角提供准确且可扩展表示的应用中。目前领先的方法，如DUSt3R，采用的是基本的成对处理方法，即逐对处理图像，并需要昂贵的全局对齐程序以从多个视图中重建。在本文中，我们提出了一种新的多视图泛化方法——Fast3R（快速3D重建），该方法通过并行处理多个视图，实现了高效且可扩展的3D重建。Fast3R基于Transformer架构，在单次前向传递中处理N幅图像，从而避免了迭代对齐的需求。通过广泛的相机姿态估计和3D重建实验，Fast3R展示了最先进的性能，在推理速度上有显著提升，并减少了误差累积。这些结果确立了Fast3R作为多视图应用的稳健替代方案的地位，在不牺牲重建精度的前提下提供了增强的可扩展性。

研究人员对大型语言模型（LLMs）中的幻觉现象提出了担忧，但在需要创造力的领域，如药物发现，其潜力值得探索。在本文中，我们提出了一种假设，即幻觉可以改善LLMs在药物发现中的表现。为了验证这一假设，我们使用LLMs将分子的SMILES字符串用自然语言描述出来，然后将这些描述作为提示的一部分来解决药物发现中的特定任务。通过对七个LLMs和五个分类任务进行评估，我们的研究结果证实了这一假设：包含幻觉的文本可以使LLMs取得更好的性能。值得注意的是，Llama-3.1-8B在ROC-AUC指标上比没有幻觉的基线模型提高了18.35%。此外，由GPT-4o生成的幻觉在不同模型中提供了一致的性能提升。另外，我们还进行了实证分析和案例研究，以探究影响性能的关键因素及其背后的原理。我们的研究揭示了幻觉在LLMs中的潜在应用，并为未来利用LLMs进行药物发现的研究提供了新的视角。

所有智能都是集体智能，因为它由必须与系统级目标对齐的部分组成。理解这些对齐部分在问题空间中导航的动态机制，无论是促进还是限制，都会影响从生命科学到工程学的多个领域。为此，考虑一个位于平面图顶点上的系统，其成对相互作用由图的边规定。这类系统有时会展现出长程有序性，从而区分出不同的宏观行为阶段。在交互系统的网络中，我们可以将自发有序视为一种自组织形式，用以模拟神经和基础认知形式。在此基础上，我们讨论了图的拓扑结构对于有序相存在的必要条件，并着眼于寻找具有局部相互作用的系统维持有序目标状态的能力限制。通过研究三个模型系统（Potts模型、自回归模型和层次网络）中域壁形成时自由能的变化，我们展示了图上相互作用的组合学如何防止或允许自发有序。作为应用，我们能够分析为什么像生物学中常见的多尺度系统能够组织成复杂模式，而初级语言模型则难以处理长序列输出。

本文介绍了DeepSeekMath 7B，它在DeepSeek-Coder-Base-v1.5 7B的基础上，利用Common Crawl中的120B与数学相关的标记，结合自然语言和代码数据进行预训练。DeepSeekMath 7B在MATH基准测试中取得了51.7%的惊人得分，且没有依赖外部工具包和投票技术，接近Gemini-Ultra和GPT-4的性能水平。DeepSeekMath 7B的64个样本的自一致性在MATH上达到了60.9%。DeepSeekMath的数学推理能力归因于两个关键因素：首先，我们通过一个精心设计的数据选择管道，利用公开可用的Web数据的巨大潜力。其次，我们引入了Group Relative Policy Optimization（GRPO），这是Proximal Policy Optimization（PPO）的一个变体，它增强了数学推理能力，同时优化了PPO的内存使用。

这段摘要介绍了基于图像的三维物体检测在自动驾驶和机器人等应用中的广泛应用，但由于问题设置复杂和训练数据有限，当前系统在泛化方面存在困难。为了提高准确性并支持类别无关检测，作者提出了一种新颖的流程，将三维检测与二维检测和深度预测解耦，并使用扩散方法。此外，作者还引入了标准化的匈牙利距离（NHD）度量，以准确评估三维检测结果，解决了传统IoU和GIoU度量的局限性。实验结果表明，该方法在各种对象类别和数据集上实现了最先进的准确性和强大的泛化能力。

当前的图像生成方法，例如潜在扩散和基于离散标记的生成，依赖于两阶段的训练方法。在第一阶段，自动编码器被训练以将图像压缩到潜在空间；在第二阶段，生成模型被训练以学习该潜在空间上的分布。大多数工作集中在独立于第二阶段来最大化第一阶段的性能，假设更好的重建总是能带来更好的生成效果。然而，我们证明这并不完全正确。即使重建性能下降，较小的第二阶段模型可以从更压缩的第一阶段潜在表示中受益，显示出压缩和生成建模能力之间存在根本性的权衡。 为了更好地优化这一权衡，我们引入了因果正则化分词（Causally Regularized Tokenization, CRT），它利用第二阶段生成建模过程的知识，在第一阶段的潜在表示中嵌入有用的归纳偏见。这种正则化使第一阶段的重建性能变差，但通过使标记更容易建模，从而提高了第二阶段的生成性能：我们能够将计算效率提高2-3倍，并且使用不到一半的每张图像标记数（256对576）以及总模型参数量仅为四分之一（7.75亿对31亿）的情况下，匹配最先进的离散自回归ImageNet生成（FID 2.18），超过了之前的最先进水平（LlamaGen）。

视觉-语言模型（VLMs）将对齐的图像-文本对嵌入到一个联合空间中，但通常依赖于确定性的嵌入，假设图像和文本之间存在一对一的对应关系。这简化了现实世界中的关系，而这些关系本质上是多对多的，即一张图像可以有多个描述，反之亦然。我们引入了概率语言-图像预训练（ProLIP），这是首个仅使用概率目标在十亿规模的图像-文本数据集上进行预训练的概率VLM，实现了强大的零样本能力（例如，使用ViT-B/16时，ImageNet零样本准确率为74.6%）。ProLIP通过一个“不确定性标记”高效地估计不确定性，而无需额外的参数。我们还引入了一种新的包含损失，该损失强制图像-文本对之间以及原始输入和掩码输入之间的分布包含关系。实验表明，通过利用不确定性估计，ProLIP在下游任务中表现出色，并符合直观的不确定性概念，例如，较短的文本更不确定，更一般的输入包含更具体的输入。利用文本不确定性，我们在少样本设置下将ImageNet准确率从74.6%提高到75.8%，进一步支持了我们概率方法的实际优势。代码可在 https://github.com/naver-ai/prolip 获取。

视频生成技术通过修正流技术取得了显著进展，但仍存在诸如运动不流畅和视频与提示之间对齐不良等问题。在这项工作中，我们开发了一个系统化的流程，利用人类反馈来缓解这些问题并优化视频生成模型。具体来说，我们首先构建了一个大规模的人类偏好数据集，专注于现代视频生成模型，并在多个维度上进行成对标注。然后，我们引入了VideoReward，一个多维度的视频奖励模型，并研究了标注和各种设计选择对其奖励效果的影响。从一个统一的强化学习视角出发，旨在通过KL正则化最大化奖励，我们为基于流的模型引入了三种对齐算法，这些算法扩展自扩散模型的算法。这包括两种训练时策略：直接针对流的偏好优化（Flow-DPO）和针对流的奖励加权回归（Flow-RWR），以及一种推理时技术，即Flow-NRG，它直接将奖励引导应用于有噪声的视频。实验结果表明，VideoReward显著优于现有的奖励模型，而Flow-DPO相比Flow-RWR和标准监督微调方法表现出更好的性能。此外，Flow-NRG允许用户在推理过程中为多个目标分配自定义权重，满足个性化的视频质量需求。项目页面：https://gongyeliu.github.io/videoalign。

变压器架构在各种深度学习场景中占据主导地位，因为它具有选择和组合结构信息的异常能力。受到这些能力的启发，Sanford等人提出了稀疏令牌选择任务，在这个任务中，变压器在最坏情况下表现出色，而全连接网络则失败。在此基础上，我们将FCN的下限加强到平均情况，并建立了变压器与FCN之间的算法分离。具体而言，使用梯度下降训练的一层变压器可证明学习稀疏令牌选择任务，并且令人惊讶的是，它表现出强大的超出分布长度的泛化能力。我们提供经验模拟来证明我们的理论发现。