我们提出了 Omni-R1，该模型基于最近的多模态大语言模型通义千问2.5-Omni，通过强化学习方法 GRPO 在音频问答数据集上进行微调。这一方法在最新的 MMAU 基准测试中达到了新的最佳性能。Omni-R1 在 Test-mini 和 Test-full 数据分割中，于声音、音乐、语音以及整体平均类别上均取得了最高的准确率。为了理解性能提升的原因，我们分别测试了有音频和无音频输入的模型，发现 GRPO 带来的性能改进很大程度上归因于更好的文本推理能力。此外，我们还意外地发现，在仅包含文本的数据集上进行微调（不使用音频），也能有效提升基于音频的任务表现。

我们提出了一种新的算法 RXTX，该算法用于计算矩阵与其转置的乘积 $XX^{t}$。RXTX 比现有最先进的方法减少了 5% 的乘法和加法运算，并且即使在矩阵 $X$ 的规模较小时也能实现加速。该算法是通过结合基于机器学习的搜索方法与组合优化技术发现的。

在构建表格数据分类器时，处理类别分布不平衡的问题一直是长期关注的焦点。一种流行的方法是通过合成生成的数据来扩充训练数据集。传统的增强技术仅限于现有少数类样本的线性插值，而最近，更高容量的深度生成模型提供了更大的潜力。 然而，在构建深度生成模型时处理类别分布不平衡也是一个具有挑战性的问题，这方面的研究不如不平衡分类模型训练那么深入。我们发现，最先进的深度生成模型生成的少数类样本质量明显低于多数类样本。我们观察到，在不平衡数据集上训练的生成模型会低估少数类的代表性。我们提出了一种新颖的技术，即将二元类别标签转换为三元类别标签，通过引入一个少数类和多数类分布重叠的区域作为新类别。我们证明，仅通过这种对训练集的预处理，就可以显著提高多个最先进扩散模型和基于GAN的模型所生成数据的质量。在使用合成数据训练分类器时，我们将重叠类别从训练数据中移除，并解释了其背后提升准确性的原因。我们在四个真实数据集、五种不同的分类器和五种生成模型上进行了广泛的实验，证明我们的方法不仅增强了最先进模型的合成性能，还提升了分类器的性能。

我们将在线学习-遗忘问题形式化，其中模型在在线环境中以顺序方式更新，同时在更新之间处理遗忘请求。一旦某个数据点被遗忘，所有后续输出必须在统计上与没有该数据点训练的模型输出无法区分。我们提出了两种在线学习-遗忘（OLU）算法，它们都基于在线梯度下降（OGD）。第一种是被动OLU，它利用OGD的收缩特性，并在遗忘发生时注入噪声，且不增加额外计算成本。第二种是主动OLU，它使用一种离线遗忘算法，将模型向排除已删除数据的解移动。在标准的凸性和平滑性假设下，这两种方法都实现了与标准OGD相当的后悔界（regret bounds），这表明可以在提供遗忘保证的同时保持具有竞争力的后悔界。

大语言模型（LLM）的快速扩展揭示了当前硬件架构中的关键局限性，包括内存容量、计算效率和互连带宽方面的限制。DeepSeek-V3 在 2,048 个 NVIDIA H800 GPU 上进行训练，展示了如何通过硬件感知的模型协同设计有效应对这些挑战，从而实现大规模训练和推理的成本效益。本文深入分析了 DeepSeek-V3/R1 模型架构及其人工智能基础设施，重点介绍了多项创新技术，例如多头潜在注意力机制（MLA）以提高内存效率、专家混合（MoE）架构以优化计算与通信的权衡、FP8 混合精度训练以充分释放硬件潜力，以及多平面网络拓扑结构以最小化集群级别的网络开销。基于 DeepSeek-V3 开发过程中遇到的硬件瓶颈，我们与学术界和工业界的同行展开了更广泛的讨论，探讨了未来硬件发展的潜在方向，包括精确的低精度计算单元、向上扩展与向外扩展的融合，以及低延迟通信结构的创新。这些见解强调了硬件与模型协同设计在满足日益增长的人工智能工作负载需求中的关键作用，并为下一代人工智能系统的创新提供了实用的蓝图。

本文提出了一个新颖而重要的挑战，即视觉语言模型（VLM）面临无法解决问题时的无解问题检测（UPD）。UPD检查了VLM在视觉问答（VQA）任务的背景下面对无法解决的问题时保留答案的能力。UPD包括三个不同的设置：缺失答案检测（AAD）、不兼容答案集检测（IASD）和不兼容视觉问题检测（IVQD）。通过广泛的实验，深入研究UPD问题，表明大多数VLM，包括GPT-4V和LLaVA-Next-34B，都在不同程度上难以应对我们的基准，突显了改进的重要空间。为了解决UPD问题，我们探索了无需训练和基于训练的解决方案，提供了新的见解，阐明了它们的有效性和局限性。我们希望我们的见解和未来在提出的UPD设置中的努力将增强更实用和可靠的VLM的广泛理解和发展。

最近对大型语言模型（LLMs）的研究揭示了它们在多语言能力和安全性方面的表现，超越了传统的语言建模任务。然而，当前的基准测试揭示了它们无法全面评估，并且过度依赖于手动注释。在本文中，我们介绍了代码切换红队（CSRT），这是一种简单而有效的红队技术，可以同时测试LLMs的多语言理解和安全性。我们发布了CSRT数据集，其中包括315个代码切换查询，结合了多达10种语言，并引发了各种不良行为。通过对十个最先进的LLMs进行广泛的实验，我们证明了CSRT在英语中比现有方法攻击成功率高46.7％。我们通过消融研究对16K个样本进行了有关各个方面的有害响应分析，包括但不限于缩放规律，不安全的行为类别以及用于生成最佳数据的输入条件。此外，我们通过使用单语数据生成代码切换攻击提示来验证CSRT的可扩展性。

大型语言模型（LLM）在各种任务中现在表现出接近人类水平的性能，但由于预训练数据的不平衡，其性能在少数几种资源丰富的语言之后急剧下降。受人类第二语言习得过程，特别是代码转换（即在对话中交替使用语言的做法）的启发，我们提出了代码转换课程学习（CSCL）以增强LLM的跨语言迁移能力。CSCL通过逐步训练模型来模拟人类语言学习的阶段，训练内容包括1）词级别代码转换，2）句子级别代码转换，以及3）单语语料库。以Qwen 2作为基础模型，我们展示了CSCL在提高韩语语言迁移方面的有效性，与单语持续预训练方法相比，取得了显著的性能提升。消融研究表明，词级别和句子级别的代码转换显著增强了跨语言迁移，并且课程学习放大了这些效果。我们还将研究扩展到多种语言，包括日语（资源丰富）和印尼语（资源贫乏），并使用另外两个模型（Gemma 2和Phi 3.5）。我们进一步表明，CSCL减轻了语言资源和安全对齐之间的虚假相关性，提供了一个稳健、高效的框架，以实现更公平的语言迁移。我们观察到，CSCL在资源匮乏的环境中特别有效，因为在这些环境中很难获得高质量的单语语料库用于语言迁移。

在高频率光照下，镜面物体上的精细微观结构常常会展现出引人入胜的亮点图案，而使用传统的法线贴图BRDF来渲染这些效果具有很大挑战性。在本文中，我们提出了一种基于流形的亮点法线分布函数（NDF）公式，能够精确捕捉查询足迹上的表面法线分布。基于流形的公式将亮点NDF构造中的积分问题转化为网格相交问题。与之前依赖复杂数值近似的工作相比，我们的积分解是精确的，并且计算更为简单，同时允许轻松采用网格聚类层次结构以加速大足迹的NDF评估。我们的性能和质量分析表明，我们的NDF公式与基准方法相比能够产生类似的亮点外观，但速度提高了数量级。在此框架内，我们进一步推导了法线贴图漫反射表面的解析阴影遮罩公式——这是以往工作中经常被忽略的一个重要组成部分。

一阶逻辑（FOL）可以表示自然语言（NL）句子的逻辑蕴含语义，但使用FOL确定自然语言蕴含仍然是一个挑战。为了解决这个问题，我们提出了保持蕴含的一阶逻辑表示任务（EPF），并引入了无需参考的EPF评估指标，即保持蕴含率（EPR）系列指标。在EPF中，应从多前提的自然语言蕴含数据（例如EntailmentBank）生成FOL表示，以使自动证明器的结果保持蕴含标签。实验表明，现有的自然语言到FOL翻译方法在EPF任务上表现不佳。为此，我们提出了一种专门针对此任务的训练方法——迭代排序学习，该方法通过新颖的评分函数和排序学习目标直接优化模型的EPR得分。我们的方法在三个数据集上相对于多种基线方法，在EPR上提高了1.8-2.7%，在EPR@16上提高了17.4-20.6%。进一步分析显示，迭代排序学习有效地通过减少谓词签名的多样性来抑制FOL表示的任意性，并在各种推理类型和领域外数据中保持强劲的表现。