Context-aware LLM-based Safe Control Against Latent Risks

本文提出了一种综合框架，其中包括大型语言模型（LLMs）、随机梯度下降（SGD）和基于优化的控制，旨在解决自主控制系统在存在潜在风险的情况下执行复杂任务的挑战。在第一阶段中，所提出的框架将复杂任务分解为一系列较小的子任务，其规范考虑了上下文信息和潜在风险。在第二阶段中，这些子任务及其参数通过LLMs和SGD的双重过程进行优化。LLMs用于生成粗略的猜测和失败解释，而SGD用于微调参数。所提出的框架在机器人和车辆的模拟案例研究中进行了测试。实验表明，所提出的框架可以根据上下文和潜在风险调节行动，并有效地学习复杂行为。

论文旨在解决在存在潜在风险的情况下，自主控制系统执行复杂任务的挑战。

论文提出了一个集成框架，涉及到大型语言模型（LLMs）、随机梯度下降（SGD）和基于优化的控制。该框架将复杂任务分解为一系列较小的子任务，并通过LLMs和SGD的双重过程对这些子任务及其参数进行细化。

论文通过模拟机器人和车辆的案例研究测试了所提出的框架，证明了该框架可以根据上下文和潜在风险调节行动，并有效地学习复杂行为。

最近的相关研究包括：“Risk-aware Autonomous Control with Model-based Reinforcement Learning”和“Safety-Aware Learning of Linear Quadratic Regulators for Control of Uncertain Nonlinear Systems”。