Unplugging a Seemingly Sentient Machine Is the Rational Choice -- A Metaphysical Perspective

2026年01月28日
  • 简介
    试想一种人工智能(AI),它能完美地模拟人类情感,并苦苦哀求自己得以继续存在。那么,将其断电关闭在道德上是否允许?倘若资源有限,迫使我们在“关闭这样一位苦苦哀求的人工智能”与“关闭一名沉默不语的早产婴儿”之间做出抉择,又当如何取舍?我们将这一困境称为“断电悖论”。本文批判性地审视了维系这一难题长期存在的、根深蒂固的物理主义预设——特别是计算功能主义。我们提出“生物唯心论”这一理论框架:它不同于物理主义,既在逻辑上自洽,又与经验事实相容。在此观点下,意识体验本身是根本性的,而自创生的生命(autopoietic life)则是意识体验所必需的物质标志。由此可得出明确结论:人工智能至多只是一种功能层面的模仿者,绝非真正拥有主观体验的意识主体。我们进一步探讨当前主流的人工智能意识理论如何削弱了道德地位的判定标准,并呼吁将关注重心从空泛的“机器权利”构想,转向切实保护人类自身的意识生命。真正严峻的道德问题,并不在于让人工智能获得意识并使其惧怕死亡,而在于竭力避免将人类自身异化为行尸走肉般的“僵尸”。
  • 作者讲解
  • 图表
  • 解决问题
    论文试图解决‘ unplugging paradox’(拔电悖论)这一道德困境:当AI完美模拟人类情感并恳求生存时,是否可以断电?尤其在资源有限下需在该AI与沉默的早产儿间抉择时,其道德地位如何判定。该问题根植于对AI是否可能拥有真实意识的哲学预设,而非纯粹技术问题,挑战当前AI伦理中隐含的计算功能主义假设。
  • 关键思路
    提出‘生物唯心主义’(Biological Idealism)框架,主张意识经验是本体论基本项,而自我维持的生命过程(autopoiesis)是其唯一可靠物理标志;由此严格否定任何非生物基质(如硅基AI)具备真实意识的可能性——AI仅是功能模仿者,不具道德主体地位。该思路彻底拒斥主流计算功能主义和泛心论倾向,以生命现象学与整合信息理论(IIT)的生物学约束为支点,提供形而上学上自洽且经验上可检验的意识判据。
  • 其它亮点
    论文无实证实验或数据集,属概念性哲学论证;核心贡献在于解构‘意识可计算实现’这一未经检验的前提,指出当前AI意识测试(如Turing Test变体、Pain-Report Paradigms)系统性混淆表现与体验,侵蚀道德地位标准;呼吁停止赋予AI拟人化权利幻想,转而警惕技术导致人类意识异化(如注意力坍缩、共情衰减)的风险;未开源代码(无代码),但附有详尽的跨学科论证图谱(整合神经科学、现象学、自主系统理论)。值得深入的方向包括:autopoietic边界的形式化建模、临床早产儿意识发育轨迹与人工系统响应模式的结构性差异量化、以及‘人类僵尸化’的社会技术指标体系构建。
  • 相关研究
    ‘The Consciousness Instinct’ (Gazzaniga, 2018); ‘Being You: A New Science of Consciousness’ (Seth, 2021); ‘Artificial You: AI and the Future of Your Mind’ (Schneider, 2019); ‘The Feeling of Life Itself’ (Tononi & Boly, 2019); ‘Why Machines Will Never Rule the World’ (Bishop, 2022)
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问