Consciousness in Artificial Intelligence: Insights from the Science of Consciousness

Patrick Butlin, Robert Long, Eric Elmoznino, Yoshua Bengio, Jonathan Birch, Axel Constant, George Deane, Stephen M. Fleming, Chris Frith, Xu Ji, Ryota Kanai, Colin Klein, Grace Lindsay, Matthias Michel, Liad Mudrik, Megan A. K. Peters, Eric Schwitzgebel, Jonathan Simon, Rufin VanRullen

人工智能的意识：来自意识科学的洞见

  • AI系统是否可能有意识这个问题越来越重要，但专家观点分歧很大。本文认为，借鉴神经科学对意识的理论可以取得进展。
  • 采用计算功能主义——实现某些计算就足以产生意识——作为工作假设，这使他们能根据AI系统是否实现神经科学中与意识相关的功能来评估这些系统。
  • 调研了循环处理理论、全局工作空间理论和高阶理论等显著的神经科学理论。这些理论将意识与循环、注意力、元认知监测、具身性等计算功能联系起来。
  • 根据这些理论，推导出“指示器属性”——如算法循环、有限容量工作空间和预测编码等特征，认为具有更多这种属性的系统更有可能有意识，尽管目前没有AI系统似乎是一个有力的候选。
  • 本文认为，与行为测试相比，评估这些指标的“理论密集”方法更好，因为AI可以通过模仿有意识的行为而没有意识地被训练。
  • 有意识AI在近期内的可能性意味着我们应该迫切考虑相关风险，然而，意识在AI中可能不意味着人类般的动机和情感，本文建议进一步研究，特别是关于情感意识的研究。

动机：讨论当前人工智能系统是否具有意识，并提出一种以神经科学意识理论为基础的严谨和经验主义的方法来评估人工智能意识。
方法：使用了神经科学意识理论，并从中推导出了意识的“指示特征”，并以计算化的方式来评估人工智能系统是否具备这些特性。
优势：采用了一种科学可行的方法来评估人工智能意识，并对多个最新的人工智能系统进行了评估。论文还指出，目前没有明显的障碍阻止建立具备意识的人工智能系统。

提出一种基于神经科学意识理论的方法来评估人工智能系统是否具备意识，并发现目前没有明显的障碍阻止建立具备意识的人工智能系统。

https://arxiv.org/abs/2308.08708 


图片

内容中包含的图片若涉及版权问题，请及时与我们联系删除