Good Things Come in Trees: Emotion and Context Aware Behaviour Trees for Ethical Robotic Decision-Making

情绪指导着我们的决策过程，但在实际的伦理决策场景中，情绪却很少被探索。在这个挑战中，我们探讨了情绪以及它们如何影响家庭机器人环境下的伦理决策：机器人应该执行哪些取物请求，为什么或为什么不执行？我们特别讨论了情绪的两个方面：（1）身体标记：被标记为负面（危险的，例如刀具或潜在的过量药物等）的物品，提供了一个快速的启发式方法，以避免人工智能的经典框架问题；（2）情绪推断：用户的情感价值和唤醒水平在定义机器人应该如何以及何时响应人类请求时被考虑在内，例如要仔细考虑将危险物品提供给正在经历强烈情感的用户。我们基于情感的方法建立了安全的主要考虑因素，并通过支持基于上下文（例如用户年龄，过敏反应）和隐私（例如管理员设置）的覆盖策略来补充。透明度是我们解决方案的另一个关键方面。我们的解决方案使用行为树进行定义，以实现可实施的设计，可以提供实时的推理信息。

探讨情绪在家庭机器人伦理决策中的作用，特别是在决定哪些物品可以被机器人取回时的影响。

情绪可以通过两个方面影响机器人的决策：标记某些物品为负面（危险或具有过量潜力的药物等），以避免经典的人工智能框架问题；考虑用户的情感状态来决定机器人是否应该执行某些取回请求，例如，对于情绪激动的用户，机器人应该谨慎考虑提供危险物品。该方案以行为树的形式实现，可以提供实时的推理信息。

该方案以安全为首要考虑因素，同时支持基于上下文（例如用户年龄、过敏反应）和隐私（例如管理员设置）的覆盖策略。透明度是该方案的另一个关键方面。该方案的实验设计包括使用哪些数据集、是否开源代码等。

最近的相关研究包括情感识别、情感计算和情感智能等领域的研究。例如，论文《基于情感计算的家庭机器人交互设计》和《情感计算在家庭机器人中的应用》等。