
在《资本、AGI 与人类雄心》一文中,Rudolf 指出,AGI 到来之后,劳动力替代性 AI 将改变人力与非人力生产要素的相对重要性,这会降低社会对人类的关注度,同时使现有的权力更加有效和根深蒂固。
基于资源诅咒现象,Luke Drago 在《AGI 时代的智能诅咒》一文中将 Rudolf 的上述核心观点描述为智能诅咒。他认为,智能诅咒将大规模催生出类似食利国式的动力,并且没有对它们的典型约束,结果是促使寡头势力更倾向于投资 AI,而非人类。同时,少数后 AGI 时代精英将控制所有寡头势力,而其他人只能艰难地满足基本需求。
不同于上述两位作者对 AGI 可能加剧现有社会不平等和削弱人类主观能动性的悲观预言,本文作者 Raja Sohail Bashir批判性地回应了 AGI 带来的严峻挑战。
其中,他阐述了 AGI 的出现会如何迫使我们重新定义资本、货币及工作本质,推动社会制度的深刻转型。同时,他倡导促进共享繁荣、激发人类创造力并确保 AGI 益处得到普惠的政策,并提出转向更加协作和以人为中心的未来。在这个未来里,我们将以智慧、同情心以及对集体利益的承诺来应对从传统社会向 AGI 驱动型社会的过渡。
题图|SiliconCloud平台模型
1
引言
AGI 的迅速发展和临近迫使人类正面临深刻的挑战和前所未有的紧迫任务,我们需立即采取行动。随着技术加速进步,能够影响其发展结果的时间已经所剩无几。我们今天所作出的决定,将决定 AGI 是否能够成为促进公平与人类繁荣的力量——它可以如此,亦可以加剧现有的权力不平衡、加深不平等并削弱人类主观能动性。
在 Rudolf 最近发表的文章《资本、AGI 与人类雄心》中,他描绘了一个令人深思的未来前景。其中,AGI 加剧了现有的不平等,并削弱了人类的能动性。虽然我们部分认同他的担忧,但我们相信,另一个未来是可能实现的——一个 AGI 赋能人类并促进社会公正公平的未来。
本文将对 Rudolf 的分析作出回应,质疑他的一些假设,并提出另一种未来愿景。我们认为,AGI 的崛起需要我们从根本上重新构想经济和社会结构,摆脱传统的资本观念,转而拥抱更加协作、更加以人为本的方式。
尽管我们承认,由人工超级智能(ASI)塑造的未来可能充满着不确定性,但我们选择将精力集中于塑造一个后 AGI 时代的世界——一个仍在我们人类想象范围内的世界。在这个愿景中,我们优先考虑人类的繁荣、公平和合作。通过接受新的经济模式、激发人类创造力,并确保 AGI 的负责任发展和应用,我们可以建设一个技术服务于人类、每个个体都有机会繁荣的未来。
本文也邀请读者参与关于 AGI 及其对社会影响的建设性对话。我们希望读者能够探讨这一变革性技术的可能性与挑战,并共同努力塑造一个造福全人类的未来。
2
在 AGI 时代重新定义资本
AGI 的崛起迫使我们重新审视资本的概念。在传统的经济模型中,资本——包括金融资产、物质生产手段和人力资本——在推动经济活动和创造财富中发挥着核心作用。正如经济学家欧文·费舍尔在其 1906 年的著作《资本与收入的性质》中所阐述的:“资本是在某一时刻存在的财富存量。”这些财富以各种形式被利用来生产商品和服务、创造就业机会,最终推动经济增长。
随着 AGI 使生产和服务领域的自动化程度不断提高,传统的资本概念可能会经历深刻的变革。在一个 AI 能以超人类效率管理和操作生产手段的经济体系中,对人力劳动的依赖将减少——同时,传统上用于指挥这些劳动的金融资本也随之减弱。这与 Rudolf 的观点相呼应,他认为:“AI 的关键经济效应是它使资本越来越成为劳动的普遍替代品。”然而,我们的分析与他有所不同,我们认为,这种替代作用最终可能使传统资本的重要性降低。随着 AGI 削弱资源的稀缺性并使商品和服务生产的边际成本接近于零,积累和控制传统资本资产的能力将变得不那么重要。
在后 AGI 时代,算法资本和数据驱动资本可能会成为经济价值的主要驱动力。算法资本是指嵌入在 AI 模型和算法中的价值,而数据驱动资本则包括为 AGI 系统提供动力的数据集。然而,这一转变依赖于 AGI 的可获取性。如果 AGI 仍然集中在少数强大实体手中——无论是政府、公司还是个人——这些实体可能会拥有前所未有的经济和政治权力,招致比当前更为严重的技术封建主义。在这种情形下,财富积累可能更多地依赖于对这些无形资源的访问,而非传统的物理资产。
因此,至关重要的是,确保算法、数据和基础设施这些新的资本形式不会复制过去那种集中所有权的模式。即使 AGI 系统广泛可用,风险依然存在,这些资源可能会被私人牟利所用,加剧现有的权力不平衡。相反,我们必须探索新的所有权和访问模式,确保 AGI 的好处能够被广泛共享。这些模式应旨在促进创新,并且无论技术环境如何变化,都能够为创造一个更加公平公正的社会做出贡献。
3
将货币作为促进人类繁荣的工具
在后 AGI 时代,传统资本可能变得不再那么重要,因此,也需要重新审视货币的角色。我们提议,不再仅仅将货币视为价值储存或财富积累的手段,而是将其重新定义为促进交易并实现资源公平分配的工具。这一观点与现代货币理论(MMT)的原则相一致,MMT 挑战了传统经济思维中的政府支出、税收和债务等问题。
拥有发行本国货币权力的主权政府,并不像家庭或企业那样会受预算限制——这不仅是理论,而是现代法定货币信贷系统中的一个明显事实。通过基本的复式记账法,我们可以证明,政府是通过支出创造货币的,而不仅仅依赖税收或借贷。这一理解,正如史蒂夫·基恩在他的视频《法定货币与信用货币(https://www.youtube.com/watch?v=juOCyRUGn8E&t=79s)》中所解释的那样,对我们在后 AGI 时代如何制定经济政策具有深远的影响。正如现代货币理论的主要支持者之一斯蒂芬妮·凯尔顿在其著作《赤字神话》中所解释的:“政府并不‘拥有’货币,而是通过支出来创造货币。”
通过采纳这些 MMT 原则,政府可以积极应对技术性失业可能带来的挑战,并确保所有公民都能获得他们需要的资源,帮助他们蓬勃发展。这可能包括实施普遍基本收入(UBI)政策,不论公民的的就业状态如何,都为其提供保证的生活收入。此外,对于那些希望通过有意义的工作赚取额外收入或寻求成就感的个体,可以实施就业保障计划(JG)。该计划将作为最后的依靠,为那些愿意从事相关职业的人员提供有意义的公共部门工作。即使私人部门对这些技能的需求并不迫切,这一计划也将为个体提供贡献其技能和才能的机会。对那些寻求超越普遍基本收入所提供的经济安全和参与感的人员,就业保障计划将为他们提供一条可行之路。
有人可能会认为,这些政策将导致失控的通货膨胀。然而,现代货币理论强调,通货膨胀的主要原因是实际资源的限制,而不是政府支出本身。只要有足够的资源和劳动力来满足政府支出所增加的需求,通货膨胀应该是可控的。此外,在一个生产自动化、资源稀缺性被削弱的后 AGI 时代,通货膨胀的风险可能会更低。AGI 有可能大幅提高商品和服务的供应量,那么即使需求上升,也能够更容易地被满足,不会使价格上涨。例如,想象一下由 AGI 驱动的系统管理自动化的农场和工厂,几乎无需人工干预就能生产大量食品和消费品。这种效率和产出的提高可以显著降低基本商品的成本,即使政府在社会福利项目上的支出增加,也能减轻通货膨胀的压力。此外,通过减少对人类劳动力的需求,AGI 还可以帮助缓解可能导致通货膨胀的工资压力。从本文提出的路径来看,劳动力的减少不是威胁,而是一个必然且美好的发展方向——它提供了重新定义工作并促进人类繁荣的机会。
通过将货币重新构想为促进人类繁荣的工具,并采纳现代货币理论的创新经济政策,我们可以创建一个这样的社会:无论 AGI 对传统劳动市场的影响如何,每个人都有机会参与经济并为集体福祉作出贡献。然而,这需要对“工作”的本质进行根本性的重新思考。在一个许多传统工作可能会被自动化的后 AGI 时代,我们需要重新定义“有意义的工作”是什么,并为个人创造新的机会,使他们能够贡献自己的技能和才华,造福社会。
4
数据的共同所有权与集体福祉
在后 AGI 时代,当传统的资本和资金概念被重新定义时,对关键资源,尤其是数据的所有权和分配,需要进行慎重考虑。尽管我们正在重新设想经济和社会结构的基本框架,但我们必须优先思考如何让这些结构服务于集体福祉,而不是让财富和权力的集中于少数人手中。为此,我们主张向数据的共同所有权转变,以确保这一重要资源能为全社会谋福利,而不是被少数强大实体垄断掌控。
数据是现今 AGI 系统的生命线,为其学习提供动力,使其能够完成各种任务。因此,在后 AGI 经济中,数据可能比在当前的前 AGI 世界更具价值。然而,如果允许将数据作为一种私人商品,那必然会导致巨大的不平等,并抑制创新。试想一下,少数几家公司控制着当前用于训练和操作 AGI 系统的庞大数据集的访问权。这将为个人和较小组织设置难以逾越的进入壁垒,剥夺他们参与新经济并为技术进步作出贡献的能力。
为避免这一局面出现,我们建议探索优先考虑集体利益的新型数据所有权和治理模式,可以从以下几方面汲取灵感:
去中心化数据信托:数据可以由具备强大治理结构的去中心化组织托管,以确保其透明性和问责制。这些信托可以通过选举代表或者更直接的民主程序进行管理,使个人对数据的使用拥有发言权。
数据合作社:个人可以将数据集中在合作社中,增强对数据使用和共享的控制权。这还可以让个人能够集体协商公平的数据使用补偿,确保数据所创造的价值能惠及提供数据的个人。
开源数据平台:可以开发平台,在保护个人隐私的同时,实现数据共享和协作分析。这将使研究人员和开发者更容易获取数据,促进创新和科学发现,加速多个领域的进步。
尽管数据的共同所有权具有显著优势,但这也引发了如何平衡个人隐私与集体利益的问题。我们需要强有力的隐私保护技术和伦理指南,以确保在将数据共享收益最大化的同时保护个人权利。
5
为人类能动性与创造力赋能
虽然 AGI 有望将人类从单调重复的任务中解放出来,但它也引发了关于人类能动性与创造力未来的担忧。如果机器能够在许多认知和体力任务中超越人类,那么人类的聪明才智与雄心壮志还能扮演怎样的角色?我们会沦为 AI 生成内容和解决方案的被动消费者,还是能找到新的途径来实现有意义的贡献与自我表达?
6
建设更加公平公正的社会
AGI 的兴起既带来了由必要性驱动的机遇,也提出了实现建设更加公平与公正社会的挑战。一方面,AGI 可能会创造出前所未有的财富与丰富的资源,从而摆脱人类对稀缺资源的依赖,实现更公平的资源分配;另一方面,如果管理不善,AGI 也可能加剧现有的不平等,并导致权力集中在少数人手中。不幸的是,目前我们正在走向后一种情景,AGI 的开发和部署主要由私营公司和少数几个强国主导。如果这种趋势得不到遏制,AGI 的好处几乎不可避免地会集中在特权阶层,而大多数人类将无法参与其中。
1. 普遍基本收入(UBI):为所有公民提供最低保障收入,无论其就业状态如何,都确保其基本需求得到满足。
2. 就业保障计划(JG):为有意愿的人提供有意义的公共部门就业机会,提供一个让个人贡献自己技能与才能的路径。
3. 累进税制:对高收入者征收更高比例的税收,帮助财富再分配,并防止经济权力过度集中。
1. 投资教育和培训:通过教育计划帮助个人培养批判性思维、创造力和适应力,以应对后 AGI 世界的挑战。
2. 促进社会包容和多样性:无论背景、种族、性别或社会经济地位如何,确保所有社会成员都能享受 AGI 的好处。
1. 建立促进透明性、问责制和公众参与的监管框架。例如,设立独立的监督机构、强制开展伦理影响评估,以及确保AGI的发展与人类价值观和社会目标相一致。
2. 加强国际合作。确保 AGI 的发展和应用惠及全人类,而非仅仅为少数国家或企业服务。制定全球监管框架,确保 AGI 技术的开发符合伦理,并公平分配其收益。推动签署国际条约以规范 AGI 技术的安全部署,并确保所有国家,特别是在开发过程中处于弱势地位的国家,都能参与其中,避免技术资源和利益的集中化。
3. 共同开发开源的 AGI 平台。确保没有任何单一实体或国家对该技术形成垄断。
4. 推动全球范围的研究合作。确保 AGI 的进步始终与人文价值观和社会福祉相契合,而非服务于狭隘的地缘政治或企业利益。
7
应对“资本、AGI与人类雄心”中的担忧
在本文中,我们试图为 Rudolf 在其发人深省的文章《资本、AGI与人类雄心》中的担忧提供一个反思视角。尽管我们承认 AGI 所带来的潜在挑战,但我们相信,未来依然有可能是更加乐观,更加以人为本。然而,需要强调的是,我们并不一定在挑战 Rudolf 的分析。相反,我们认为他的担忧有效地反映了当前的趋势,即 AGI 的发展和部署在很大程度上是由现有的权力结构和经济范式驱动的。如果这一趋势保持不变,他提到的关于资本集中、人类能动性削弱和不平等加剧的预言,极有可能会成为现实。
8
结论
AGI 的崛起并非简单的机遇,而是一项必须正视的紧迫任务。我们正站在历史的十字路口,面临迫在眉睫的挑战,我们需要立即采取果断的行动。AGI 的发展和临近向人类提出了前所未有的要求——这不是一个遥远的议题,而是一个必须立刻应对的问题。如果我们行动迟缓,那么所追求的未来可能会离我们而去,而不受管控的 AGI 带来的巨大风险,包括严重的不平等、人类能动性的丧失以及技术封建社会的形成,将不可避免地成为现实。
参考文献

即刻体验加速版DeepSeek-V2.5
cloud.siliconflow.cn
扫码加入用户交流群

内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢