本文将首先探讨“符号”和“神经”系统在认知推理方面的特点,然后从知识图谱的角度结合技术的发展历程,探讨实现“符号+神经”理想认知智能系统的关键问题和挑战。
“神经+符号”的结合
笔者从知识图谱领域的研究视角对目前的工作梳理总结后发现,“神经+符号”的结合工作主要可以分为两类:
神经助力符号(neural for symbolic)这类方法的特点在于将神经网络的方法应用在传统符号系统的问题求解,通常主要用来解决浅层次的推理问题。例如采用知识图谱表示学习(knowledge graph embedding)[1]、图神经网络(Graph Neural Networks,GNN)[2]等技术进行知识图谱的补全,其特点是用统计推理代替逻辑演绎;还有采用循环神经网络(Recurrent Neural Network,RNN)、图卷积神经网络(Graph Convolutional Network,GCN)等技术进行多跳智能问答[3],也是类似的工作。
此外,Swift Logic[3]、神经理论证明机[4]、逻辑张量网络[5]等工作也属于“神经”助力“符号”的尝试,其主要思想是改进神经网络的方法,将其应用到知识图谱领域的深层推理场景,进而提升效果。
符号助力神经(symbolic for neural)这类方法的特点在于将符号的方法应用在神经网络的训练过程中。例如,使用逻辑规则在深度神经网络中进行数据的编审(data curation)[6];将知识图谱应用在远程监督、少样本、零样本的模型和场景中[7,8]。
最近有一类研究叫做可解释的人工智能(explainable AI)[9],其主要思想是利用知识图谱中的事实或规则,对神经网络训练过程中的行为进行解释,进而提高神经网络的可解释性。值得一提的是,清华大学唐杰等人最新提出的认知图谱[10],就是“神经+符号”与“System 1+System 2”在可解释人工智能方面的尝试,旨在用符号知识的表示、推理和决策来解决深度学习求解过程的黑盒问题。
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢