强人工智能是人类想要且正在创造的机器，但也可能通过社会操纵、新型战争、权力动态变化等方式引发一些实质性的问题。强人工智能可以由一套系统处理各种智能行为，而弱人工智能针对每种智能行为都需要新的独立系统，这是两者之间的根本性区别。对强人工智能可能的安全性风险进行评估并制定适宜对策，探讨有效驾驭强人工智能并使之既造福于人类又不对社会造成危害的举措，已经成为世界性的研究议题。

中国工程院院刊《中国工程科学》在2021年第3期刊发《针对强人工智能安全风险的技术应对策略》，归纳了强人工智能与传统人工智能的区别，从模型的不可解释性、算法及硬件的不可靠性、自主意识的不可控性三方面研判了强人工智能安全风险的来源，从能力、动机、行为3 个维度提出了针对强人工智能的安全风险评估体系。为应对安全风险，文章提出的防御策略有：在理论技术研究阶段，完善理论基础验证，实现模型可解释性，严格限制强人工智能底层价值取向，促进技术标准化；在应用阶段，预防人为造成的安全问题，对强人工智能进行动机选择，为强人工智能赋予人类价值观。此外，文章建议加强国际合作，培养强人工智能研究人才，为迎接未知的强人工智能时代做好充分准备。

内容中包含的图片若涉及版权问题，请及时与我们联系删除