智源社区AI周刊No.100：李飞飞等最新文章：社会化人工智能；DreamFusion：Google发布“文本-3D”生成新成果

汇聚每周AI观点、研究和各类资源，不错过真知灼见和重要资讯！欢迎点击这里，关注并订阅智源社区AI周刊。

编辑精选

斯坦福大学李飞飞等最新文章：社会化人工智能

近日，斯坦福大学计算机系的 Ranjay Krishna、Donsuk Lee、李飞飞、Michael Bernstein 等人针对此问题提出了一种新的研究框架：社会化人工智能（socially situated AI），即智能体通过在现实社会环境中与人的持续互动来学习。论文“Socially situated artificial intelligence enables learning from human interaction”已发表在美国科学院院刊（PNAS）上。在这项工作中，研究团队将社会化 AI 形式化为一个强化学习的过程，即智能体通过从社会互动中获取的奖励来学习识别有信息量的问题。在一个视觉问答任务的测试中，与其他智能体相比，社会化智能体识别新视觉信息的性能提高了 112%。

美国东北大学教授Walid Saba：神经网络无法实现可解释 AI

美国东北大学体验式人工智能研究所的高级研究科学家 Walid S. Saba 从组合语义的角度出发，提出一个观点：深度学习无法构造一个可逆的组合语义，所以它无法实现可解释AI。

神经网络中的表示并不是真正与任何可解释的事物相对应的“符号”——而是分布的、相关的和连续的数值，它们本身并不意味着任何可以在概念上解释的东西。

用更简单的术语来说，神经网络中的子符号表示本身并不指代人类在概念上可以理解的任何事物（隐藏单元本身不能代表任何形而上学意义的对象）。它是一组隐藏单元。这正是神经网络无法实现可解释性的原因，即因为几个隐藏特征的组合是不可确定的——一旦组合完成，单个单元就会丢失。

在符号系统中，有定义明确的组合语义函数，它们根据成分的意义计算复合词的意义。但是这种组合可逆——人们总是可以得到产生该输出的（输入）组件，并且正是因为在符号系统中，人们可以访问一种“句法结构”，这一结构含有如何组装组件的地图。而这在 NN 中都并非如此。一旦向量（张量）在神经网络中组合，它们的张量分解就无法确定，因为向量（标量）可以分解的方式是无限的。