Close the Gates to an Inhuman Future: How and why we should choose to not develop superhuman general-purpose artificial intelligence

在未来几年中，人类可能会不可逆地跨越一个门槛，创造出超级通用人工智能。这将带来许多前所未有的风险，并且很可能在多个方面无法控制。我们可以选择不这样做，首先通过设定硬性限制来限制可用于训练和运行神经网络的计算。在这些限制的基础上，人工智能研究和产业可以致力于制造人类可以理解和控制的人工智能，并从中获得巨大的利益。

如何控制超级通用人工智能的风险？

通过限制用于训练和运行神经网络的计算能力，以创造人类可以理解和控制的人工智能

论文提出了限制计算能力的解决方案，以创造人类可以理解和控制的人工智能，并指出这将带来巨大的好处。实验设计方面并没有涉及，也没有提到使用哪些数据集或是否有开源代码。值得深入研究如何实现限制计算能力的方法。

最近的相关研究包括Stuart Russell等人的论文《人工智能的长期挑战》以及Nick Bostrom的《超级智能》等著作。