Exploring State Space and Reasoning by Elimination in Tsetlin Machine

Tsetlin机器（TM）在机器学习（ML）中引起了重大关注。通过运用逻辑基础，它促进了模式学习和表示，提供了一种替代方法来开发可理解的人工智能（AI），特别关注以联结子句形式的模式分类。在自然语言处理（NLP）领域，TM被用于构建词嵌入和使用子句描述目标词。为了增强这些子句的描述能力，我们研究了消除推理（RbE）的概念，它涉及到加入特征否定，以提供更全面的表示。更详细地说，本文采用Tsetlin机器自编码器（TM-AE）架构生成密集的词向量，旨在通过为给定词汇提取特征密集向量来捕捉上下文信息。然后，探讨了RbE原理，以提高TM的描述性和优化性能。具体而言，利用特异性参数s和投票边界参数T来调节状态空间中的特征分布，从而为每个子句提供密集的信息表示。此外，我们还研究了TM-AE的状态空间，特别是遗忘/排除的特征。人工生成的数据、IMDB数据集和20个新闻组数据集的实证研究展示了TM的稳健性，其中IMDB的准确率达到了90.62％。

本论文旨在通过引入消除推理（RbE）的概念来提高Tsetlin机器（TM）的描述性能和性能优化，以生成密集的单词向量，并在自然语言处理（NLP）中进行应用。

论文采用Tsetlin机器自编码器（TM-AE）架构生成密集的单词向量，并使用消除推理（RbE）原理改进描述性能和优化TM的性能。具体而言，通过调节特异性参数s和投票边界参数T来调节状态空间中的特征分布，从而为每个子句生成密集的信息表示。

论文使用人工生成的数据集、IMDB数据集和20 Newsgroups数据集进行了实证研究，展示了TM的鲁棒性，IMDB数据集的准确率达到了90.62％。

最近的相关研究包括“Tsetlin Machine: A Game Theoretic Bandit Driven Approach to Optimal Pattern Recognition with Propositional Logic”和“Tsetlin Machine with Adversarial Loss for Explainable and Accurate Prediction”等。