本文介绍了基于AT协议（一种公共社交媒体的去中心化基础）构建的新型社交网络Bluesky。该社交网络于2023年2月推出私人测试版，并在随后的一年内吸引了超过300万注册用户。本文重点介绍了Bluesky和AT协议的架构，该协议受到Web本身的启发，但现代化地包括实时更新流和加密身份验证。我们解释了Bluesky的技术设计如何受到我们的目标的影响：通过为系统的每个部分提供多个可互操作的提供者来实现去中心化；使用户轻松切换提供者；赋予用户对其所见内容的掌控权；并提供简单的用户体验，不会让用户因系统的去中心化而感到复杂。该系统的开放性使任何人都可以参与内容审核和社区管理，并邀请研究界将Bluesky作为社交媒体审核新方法的数据集和测试场。

本文提出了聚合注意力（Aggregated Attention）和卷积GLU（Convolutional GLU）两种新型的模型设计来解决Vision Transformers模型中深度退化效应导致的信息交换不足问题，从而实现自然的视觉感知。聚合注意力是一种仿生设计的令牌混合器，模拟了生物视网膜的视觉和连续眼动，并使特征图上的每个令牌具有全局感知。此外，本文还引入了可学习的令牌，与传统的查询和键交互，进一步丰富了亲和矩阵的生成方式。卷积GLU是一种通道混合器，它弥合了GLU和SE机制之间的差距，使每个令牌都具有基于最近邻图像特征的通道注意力，增强了局部建模能力和模型的鲁棒性。本文将聚合注意力和卷积GLU结合起来，创建了一种新的视觉骨干网络TransNeXt。广泛的实验表明，TransNeXt在多个模型大小上均实现了最先进的性能。在$224^2$的分辨率下，TransNeXt-Tiny的ImageNet准确率达到了84.0％，比ConvNeXt-B少69％的参数。在$384^2$的分辨率下，TransNeXt-Base在ImageNet上的准确率为86.2％，ImageNet-A准确率为61.6％，COCO目标检测mAP为57.1，ADE20K语义分割mIoU为54.7。

大型语言模型（LLM）在数学推理任务中表现出色，例如与Lean等交互证明助手集成时的形式定理证明。现有方法涉及在特定数据集上训练或微调LLM，以在特定领域（如本科数学）表现良好。这些方法在推广到高级数学方面方面面临困难。一个根本性的限制是这些方法在静态领域上操作，无法捕捉数学家通常如何同时或循环地跨越多个领域和项目工作。我们提出了LeanAgent，这是一个新颖的终身学习框架，用于定理证明，可以持续地推广和改进不断扩展的数学知识，而不会忘记先前学习的知识。LeanAgent引入了几个关键创新，包括一种课程学习策略，该策略优化数学难度的学习轨迹，一个动态数据库，用于有效管理不断发展的数学知识，以及渐进式训练，以平衡稳定性和可塑性。LeanAgent成功证明了23个不同的Lean存储库中的162个以前未被人类证明的定理，其中许多来自于高级数学。它的表现比静态LLM基线高出11倍，证明了抽象代数和代数拓扑等领域的具有挑战性的定理，同时展示了从基本概念到高级主题的明显学习进展。此外，我们分析了LeanAgent在关键终身学习指标上的出色表现。LeanAgent在稳定性和向后转移方面取得了异常的分数，其中学习新任务可以提高先前学习任务的表现。这强调了LeanAgent的持续推广和改进，解释了其卓越的定理证明性能。

本文介绍了一种基于距离场的简易碰撞检测方案，用于检测物体与环境的碰撞。通过巧妙地使用背面剔除和z缓冲，该解决方案精确而且非常易于实现。由于完整方案依赖于图形管线，因此GPU执行碰撞检测。它易于使用，只需要物体和场景的网格，而不依赖于特殊的表示。它可以本地处理直接在管线上发射的基本形状的碰撞。我们的方案高效，并且我们公开了许多可能的变体（特别是适应于某些粒子系统的变体）。我们方案的主要限制在于它对考虑的物体的形状施加了一些限制，但对它们的环境没有限制。我们通过首先与FCL进行比较，其次测试更完整的场景（涉及几何着色器、曲面细分和计算着色器），最后用粒子系统进行说明来评估我们的方案。

本文研究基于图像的虚拟试穿技术，即在给定描述人和服装的一对图像的情况下，渲染出一个人穿着精选服装的图像。先前的研究利用现有的基于样本的修补扩散模型来进行虚拟试穿，以提高生成的视觉效果的自然度，但它们未能保留服装的身份。为了克服这个限制，我们提出了一种新的扩散模型，可以提高服装的准确性并生成真实的虚拟试穿图像。我们的方法被称为IDM-VTON，使用两个不同的模块来编码服装图像的语义；在扩散模型的基本UNet中，1）从视觉编码器提取的高级语义被融合到交叉注意力层中，然后2）从并行UNet提取的低级特征被融合到自我注意力层中。此外，我们提供了详细的文本提示，以增强生成视觉效果的真实性，包括服装和人物图像。最后，我们提供了一种使用人物-服装图像对进行定制的方法，可以显著提高准确性和真实性。我们的实验结果表明，我们的方法在保留服装细节和生成真实的虚拟试穿图像方面优于以前的方法（包括基于扩散和基于GAN的方法），在定性和定量方面都表现出色。此外，所提出的定制方法在实际场景中证明了其有效性。

扩散模型因其生成高质量样本的能力而越来越受欢迎，这为解决反问题开辟了令人兴奋的新可能性，特别是在图像恢复和重建方面，通过将扩散模型视为无监督先验来解决反问题。本文综述了利用预训练扩散模型解决反问题的方法，并提出了基于它们所解决的问题和所采用的技术的分类法。我们分析了不同方法之间的联系，提供了实际实现的见解，并强调了重要的考虑因素。我们进一步讨论了使用潜在扩散模型解决反问题所面临的具体挑战和潜在解决方案。本文旨在成为对扩散模型和反问题交叉领域感兴趣的人的有价值的资源。

酶的设计是生物技术中的一个关键领域，应用范围从药物开发到合成生物学。传统的酶功能预测或蛋白质结合口袋设计方法通常难以捕捉酶-底物相互作用的动态和复杂性，特别是在催化过程中。为了解决这些挑战，我们介绍了EnzymeFlow，这是一个生成模型，采用层次预训练、酶-反应共同进化和流匹配来生成特定底物和催化反应的催化口袋。此外，我们还介绍了一个大规模、策划和经过验证的酶-反应对数据集，专门设计用于催化口袋生成任务，包括总共328,192个对。通过结合进化动力学和反应特定适应性，EnzymeFlow成为设计酶口袋的强大模型，能够催化各种生化反应。对新数据集的实验表明，该模型在设计高质量、功能齐全的酶催化口袋方面具有很好的效果，为酶工程和合成生物学的进步铺平了道路。我们在https://github.com/WillHua127/EnzymeFlow提供了EnzymeFlow代码，并在https://github.com/WillHua127/EnzymeFlow/blob/main/enzymeflow_demo.ipynb上提供了笔记本演示。

概率扩散模型在各个领域都变得非常有效。通常，从扩散模型中取样涉及使用一个以学习到的均值为特征的高斯去噪分布，其协方差可以是固定的或学习的。在本文中，我们利用最近提出的全协方差矩匹配技术，并引入一种学习协方差的新方法。与传统的数据驱动协方差逼近方法不同，我们的方法直接回归最优解析协方差，使用一种名为Optimal Covariance Matching (OCM)的新的无偏目标。这种方法可以显著减少协方差预测中的逼近误差。我们展示了我们的方法如何显著提高马尔可夫（DDPM）和非马尔可夫（DDIM）扩散模型族的采样效率。

激光雷达场景生成近年来发展迅速。然而，现有的方法主要集中在生成静态和单帧场景，忽视了真实驾驶环境固有的动态特性。在这项工作中，我们引入了DynamicCity，这是一种新颖的4D激光雷达生成框架，能够生成大规模、高质量的激光雷达场景，捕捉动态环境的时间演变。DynamicCity主要由两个关键模型组成。1）用于学习HexPlane作为紧凑4D表示的VAE模型。DynamicCity不使用简单的平均操作，而是采用一种新颖的投影模块，有效地将4D激光雷达特征压缩成六个2D特征图，用于构建HexPlane，这显著提高了HexPlane的拟合质量（最多提高12.56 mIoU）。此外，我们利用扩展与压缩策略并行重建3D特征体，相比逐点查询的方法，不仅提高了网络训练效率和重建精度（最多提高7.05 mIoU，训练速度提升2.06倍，内存减少70.84%）。2）基于DiT的扩散模型用于生成HexPlane。为了使HexPlane适用于DiT生成，提出了一种填充展开操作，将HexPlane的六个特征平面重新组织为一个方形的2D特征图。特别是，可以在扩散或采样过程中引入各种条件，支持多种4D生成应用，如轨迹驱动生成、命令驱动生成、修复和布局条件生成。在CarlaSC和Waymo数据集上的大量实验表明，DynamicCity在多个指标上显著优于现有的最先进的4D激光雷达生成方法。代码将对外发布，以促进未来的研究。

扩散模型和流匹配模型通过学习将噪声转化为数据，已经能够生成多样且逼真的图像。然而，从这些模型中采样涉及多次神经网络传递的迭代去噪过程，这使得生成速度慢且成本高。之前加速采样的方法需要复杂的训练机制，例如多个训练阶段、多个网络或脆弱的时间表。我们引入了快捷模型，这是一种生成模型家族，使用单个网络和训练阶段，在一次或多次采样步骤中生成高质量样本。快捷模型不仅根据当前的噪声水平对网络进行条件化，还根据所需的步长进行条件化，使模型能够在生成过程中跳过某些步骤。在广泛的采样步长预算范围内，快捷模型始终比之前的模型（如一致性模型和再流模型）生成更高品质的样本。与蒸馏方法相比，快捷模型将复杂性降低到单个网络和训练阶段，并且在推理时允许调整步长预算。