领域 ALL
特色 ALL
请选择
速览
今日热度
AI Agents Push Humans Out of the Loop
Agent Human Agent Interaction Other Agents AI Safety / AI Ethics AVAR EVA
305
热度
2026年08月24日
人工智能代理在获得日益增强的自主权的同时，也带来了显著风险。一种广为提倡的应对方案是实施人工监督、确保“人在回路中”（human in the loop），但这一方案远非简单可行：不仅当前的人工智能代理设计方法本身即妨碍了有效的人类监督，而且人类履行监督职责所必需的认知能力，也会因长期使用人工智能系统而逐渐退化。本文立场鲜明地指出：当前人工智能代理系统在研发与部署方面的主流路径，并不能支撑真正有效的人类监督——反而正加速其弱化与瓦解。因此，在推进人工智能代理技术发展的过程中，首要任务应是切实支持监督者所处具体情境下的目标设定及其所需的关键认知能力，并将监督者的人本需求，置于与人工智能代理自身能力同等重要的地位。为将这一理念付诸实践，本文将自动化研究与人机交互领域的既有成果，系统性地引入人工智能代理流程之中，从系统设计层面提出若干可供采纳的功能性支持机制（affordances），并配套制定组织运行层面的规范性操作规程；这些措施旨在：（1）切实赋能监督者开展审慎判断与批判性思考；（2）有效遏制因长期依赖自动化而导致的专业技能退化现象。我们呼吁人工智能系统的开发者与部署方积极采纳此类或类似方案。倘若未能对人类与人工智能代理之间高效协作所依赖的认知负荷给予明确而主动的支持，人工智能代理系统将持续以一种隐性却顽固的方式，反向激励其所赖以存续的那些关键人类能力不断衰退。
许愿开讲
PDF
解读
EDGEGEN: Improving Tool-Calling Agents Beyond Happy Paths with Synthetic Edge Case Generation
LLM SFT Agent Tool Learning Agent Eval Benchmarks
265
热度
2026年09月21日
面向工具调用的大语言模型（LLM）智能体正日益广泛部署于企业级应用中。然而，要实现高效评估与优化，亟需高质量、多样化的任务数据集；而受隐私保护及其他实际约束限制，此类数据集往往难以获取。当前主流的合成任务生成方法通常仅产出泛化性强但缺乏针对性的任务，既忽略智能体自身的内部状态或所连接数据库的具体情况，也无法真实反映现实场景中任务使用的多样性。为此，我们提出 EdgeGen——一种新型合成任务生成框架：该框架首先从智能体的规格说明中自动提取合规性规则，继而基于这些规则生成以真实数据库为支撑的“边界案例”（edge-case）任务，旨在刻意触发对前述规则的违反。当与现有合成数据生成技术协同使用时，EdgeGen 可支持通过微调（finetuning）和测试套件优化（harness optimization）两种路径提升智能体性能。由此构建的完整流程形成了一套完全自动化的闭环系统，全程无需人工标注。在 tau2bench 航空领域基准测试中，仅使用 EdgeGen 生成的数据进行微调，即可使各类模型的平均任务进展率（mean progress）稳定提升 2% 至 42%；相比之下，其他基线方法在部分模型上反而导致性能下降。而在测试套件优化方面，针对 Gemma-4-e4b 模型，EdgeGen 方法相较人工精心构建的测试套件与基础测试套件，分别实现了 10% 和 30% 的平均任务进展率提升。
许愿开讲
PDF
解读
Copy-Paste Language Models
LLM PTSAD Long Context
183
热度
2026年10月13日
人们通常直观地认为，Transformer 模型在从输入中进行内容复制方面具有较高效率。事实上，我们证明：通过显式建模，大语言模型（LLM）在上下文中的复制能力可以得到显著提升。为此，我们提出了“复制-粘贴语言模型”（Copy-Paste Language Models, CPLMs），即在传统语言建模（LM）头之外，额外引入一个轻量级的“复制-粘贴”头。CPLMs 不仅提升了训练效率与下游任务性能，还在长上下文建模和检索增强场景中提供了全新的性能-开销权衡点（operating points）。我们通过预训练参数量从 1.35 亿到 17 亿不等的多个模型，全面验证了该方法的有效性——结果表明，无论模型规模或主干网络（backbone）如何变化，CPLMs 均能带来一致的性能提升，且训练与推理开销几乎可以忽略不计。我们进一步揭示了 CPLMs 成功的内在机制：它通过提供一条替代性的梯度通路，在一定程度上缓解了传统语言建模头所面临的梯度瓶颈问题。
许愿开讲
PDF
解读
Dino Forcing Flow Models: Do not denoise what you can predict
GenAI Diffusion ML Generative Models DM
154
热度
2026年10月08日
联合去噪预训练表征（例如DINO）可显著提升流匹配模型的训练速度与生成质量，但该方法引入了第二条去噪轨迹，且需精心设计针对表征的去噪调度策略。我们提出一种更简洁的替代方案：直接预测预训练表征，再将模型以自身对该表征的预测结果为条件进行建模。这一方法无需引入第二条常微分方程（ODE）路径，也无需为特定表征设计专门的去噪调度，同时仍能充分保留表征引导所带来的全部优势。实验表明，我们的方法收敛速度大幅提升，且在FID（Fréchet Inception Distance）指标上展现出更优的生成质量。在ImageNet数据集上，该方法在隐空间中仅需先前方法一半的训练轮数（2×更少的epoch），即已超越当前最先进的隐空间生成方法；在像素空间中，其FID指标相较同类已有方法提升了超过20%。这些结果印证了一个简洁而有力的原则：凡可直接预测者，无需再去噪。我们的代码已开源，地址为：https://github.com/arijit-hub/dino_forcing。
许愿开讲
PDF
解读
Few-Step Boltzmann Generators via Scalable Likelihood Flow Maps
GenAI Diffusion ML POA Generative Models DM AI4S Other AI4S
146
热度
2026年06月27日
近期基于流的生成建模研究取得了重要进展，涌现出一批仅需少量函数求值即可输出高质量样本的模型。然而，目前在模型似然估计方面尚缺乏类似突破。具体而言，现有主流方法要么依赖于结构受限的架构（以支持似然的精确计算），要么采用随机近似方法（例如Hutchinson迹估计器），而后者会引入显著的方差。本文提出一种可扩展的流映射似然蒸馏方法——SCALLOP（SCAlable LikeLihood distillation of flOw maPs）。SCALLOP建立在近期提出的F2D2模型基础之上：F2D2是一种似然流映射模型，可在极少量函数求值下同步生成样本及其对应密度。尽管F2D2在训练过程中采用Hutchinson估计器，我们则设计了一种替代性的、更具可扩展性的似然蒸馏目标函数——该目标完全无需Hutchinson估计，且支持向量化实现。实验结果表明，SCALLOP作为分子科学领域的玻尔兹曼生成器效果卓著；我们还在图像数据集上进一步验证了其有效性。相较于F2D2，SCALLOP显著降低了训练过程中的方差与耗时，同时持续提升模型性能；其综合表现与当前最优方法相当，且推理速度相较最快基线最高可提升达10倍。
许愿开讲
PDF
解读
Barbarians at the Gate: How AI is Upending Systems Research
AI Systems and Hardware CACRR PVDAR
139
热度
2025年10月07日
人工智能（AI）正开始通过自动化发现新解决方案，彻底改变我们所熟知的研究方式。对于给定任务，典型的AI驱动方法是：（i）生成一组多样化的解决方案，然后（ii）验证这些方案并选择其中能够解决问题的一个。关键在于，这种方法依赖于一个可靠的验证机制，即能够准确判断某个解决方案是否真正解决了给定问题的评判标准。我们认为，系统研究领域长期以来专注于设计和评估以性能为导向的新算法，因此特别适合采用AI驱动的解决方案探索。原因在于，系统性能问题天然具备可靠的验证手段：解决方案通常可在真实系统或仿真器中实现，而验证过程则简化为在预定义工作负载下运行这些软件组件，并测量其性能表现。我们将这一方法称为“面向系统的AI驱动研究”（AI-Driven Research for Systems, ADRS），它通过不断生成、评估和优化方案来迭代推进研究进程。借助penEvolve——一个现有的开源ADRS实例——我们在多个不同领域开展了案例研究，涵盖多区域云调度中的负载均衡、专家混合模型推理、基于大语言模型的SQL查询以及事务调度等场景。在多个案例中，ADRS发现的算法性能超越了当前最先进的由人工设计的方案（例如，运行时间最高提升5.0倍，或成本降低50%）。我们总结了现有框架下指导算法演进的最佳实践，从提示词设计到评估器构建均有涉及。随后，我们探讨了这一趋势对系统研究社区更广泛的影响：随着AI在算法设计中扮演核心角色，人类研究人员将越来越多地聚焦于问题的定义与战略层面的引导。我们的研究成果既揭示了AI带来的颠覆性潜力，也凸显出在AI时代调整和革新系统研究范式的紧迫性。
许愿开讲
PDF
解读
Thinking Before Thinking: Scaling Agentic Inference Through Meta-Reasoning
LLM CoT Agent Agent Planning Agent Memory Agent Eval Benchmarks
123
热度
2026年09月29日
随着智能体所承担的任务日益延长且愈发复杂，对执行过程的管控本身便成为一项独立而关键的任务。在每一次运行过程中，每一步都会涌现出新的控制决策点，例如：应当基于哪一部分已有工作继续推进？是否应从头开始？又或何时终止当前运行？为此，我们提出了“智能体元推理”（agentic meta-reasoning）——一种在推理时动态启用的管控机制，它将上述控制决策显式地建模为一个结构化的推理过程。其中，执行单元（Workers）负责完成具体任务层面的计算；而控制器（Controller）则承担更高阶的统筹职能：汇总当前运行已取得的成果、探索下一步可能的行动路径、在剩余计算预算约束下评估各选项的预期收益，并结合持久化记忆中存储的上下文信息，向执行单元分派选定的任务。值得注意的是，在两次控制决策之间，控制器仅需维护一份关于当前运行状态的高度凝练摘要，而无需重放全部历史轨迹。我们的基线方法涵盖当前工业级编程智能体与前沿研究型推理框架，并额外引入了一个“直接控制智能体”（Direct Control Agent）作为对照——该基线采用与元推理系统完全相同的执行单元和计算预算配额。在 ProgramBench 基准测试上（该基准通过程序重构任务评估智能体在长程任务中的综合能力），元推理方法借助 GPT-5.5 实现了 71.5% 的准确率，显著高于 Codex 的 58.0%；在 Opus 4.8 上则达到 67.2%，亦优于 Claude Code 的 65.5%。在其余多项基准测试中——涵盖抽象推理、跨领域长程推理以及数学证明生成——元推理方法在三款前沿大模型上的平均性能提升幅度达 3.6 至 4.2 分，均超越直接控制基线。尤为关键的是，当计算预算持续增加时，元推理性能仍保持稳步上升趋势，而直接控制方法则早已趋于饱和；不过，在极小预算场景下，元推理因引入额外开销反而可能略逊一筹。对产出物图谱（artifact-graph）的深入分析进一步表明：元推理更频繁地复用前期成果、在多数实验设置下对正确解的覆盖范围更广，且最终方案筛选环节的增益呈现非均匀分布特征。综上可见，随着智能体执行周期不断拉长，将计算资源投入于结构化、系统化的运行管控，其重要性正日益凸显。
许愿开讲
PDF
解读
Training Language Models to Fail Gracefully
LLM RLHF ML RL PGPO AI Safety / AI Ethics AVAR
74
热度
2026年10月14日
强化学习虽能提升语言模型解决任务的能力，但同一机制也会奖励“瞎猜”行为。当唯有成功才能获得奖励时，选择稳妥的备选方案（fallback）总是比孤注一掷的尝试更“吃亏”。然而，若一次错误操作可能导致数据库损坏或部署有缺陷的代码，这种激励机制便可能带来高昂代价。因此，我们提出训练模型“优雅失败”（fail gracefully）：在尽可能保留原有成功行为的同时，学会在自身行为不可靠时主动执行安全的备选策略。然而，若简单地将中间奖励信号用于备选行为，并直接采用策略梯度法进行优化，则会因不利的优化动力学特性而表现脆弱、难以收敛。为此，我们提出了GracefulRL方法，通过重塑优化景观（optimization landscape），引导模型习得优雅失败的能力。尤为关键的是，该能力直接源于面向最终结果的奖励信号，无需人工标注“何时应触发备选策略”，也无需在推理阶段额外引入验证器（verifier）等辅助机制。在多种任务类型与不同模型规模的实验中，我们训练出的模型在基本维持原有任务求解能力的同时，能够根据情境自主判断行为可靠性，并在必要时选择性地启用备选策略。更广泛而言，我们的结果表明：强化学习不仅能激励模型追求成功，还能促使模型反思自身能力的边界，并在判定成功已无望时主动调整策略、及时转向。
许愿开讲
PDF
解读
Do Syntax Heads Influence Model Behavior?
LLM Other LLM AI Safety / AI Ethics XAI
73
热度
2026年10月13日
Transformer语言模型会发展出专门处理句法关系的注意力头，例如，从动词指向其主语的注意力头。那么，这些注意力头是否在模型的句法预测中发挥因果性作用？目前支持这一因果作用的证据较为混杂，甚至总体偏向否定：即便我们强制这些注意力头将注意力转向一个非主语的干扰名词，模型所做出的句法预测仍更倾向于与主语保持一致，而非与该干扰名词保持一致。对专门处理句法信息的注意力头施加干预，相较于对随机选取的注意力头施加干预，在句法预测上的影响更为显著；但这种差异仅体现在我们所提出的两项评估指标之一中。
许愿开讲
PDF
解读
GRASE: Geometry-native Real-to-sim Agentic Scene Modeling from Video
Embodied AI and Robotics World Models Semantic Mapping Agent Agent Planning Autonomous Workflows CV VSER
62
热度
2026年10月15日
真实场景到仿真场景的转换（Real-to-sim conversion）旨在将真实环境中采集的视频转化为可编辑的三维场景，同时精准保留所观测到的几何结构与空间布局。现有方法通常采用单次前向传递、松散耦合的范式：各处理阶段仅能从前序阶段获得有限反馈，导致误差逐级累积且缺乏可靠的修正机制，最终生成的三维场景在结构上难以保持一致。本文提出GRASE——一种基于智能体（agentic）的框架，通过在整个建模过程中将多视角视频观测数据作为持续参照基准，从而闭环式地解决上述问题。GRASE并不固化中间估计结果；一旦渲染结果与原始采集数据出现偏差，系统即刻修正当前假设，从而突破传统流程中对中间结果“一锤定音”的固有局限。具体而言，GRASE首先依据深度信息与多视角线索拟合出建筑主体结构及其门窗等开口构件；随后，一个智能体在统一坐标系下放置生成的各类资产（assets），并实时校验其相互之间的空间关系；最后，针对每一项资产，迭代优化其几何形状与空间位姿，以提升其在所有观测视角下的整体一致性。通过将上述步骤以反馈机制紧密耦合，GRASE不仅能准确定位结构性偏差所在，还能仅针对性地修正引发问题的局部组件，同时严格维持跨视角的一致性。由此生成的三维场景不仅高度保真于输入视频，而且在各视角间保持几何一致，可直接用于物理仿真等下游任务。实验结果表明，GRASE显著优于其他前沿方法，包括基于GPT-6-Astra实现的端到端真实场景直转仿真方案。
许愿开讲
PDF
解读