Sparse Tensor PCA via Tensor Decomposition for Unsupervised Feature Selection

最近，将张量分解（TD）方法引入无监督特征选择（UFS）成为一个不断上升的研究点。张量结构有助于挖掘不同模式之间的关系，有助于减轻计算负担。然而，现有方法利用TD来最小化数据张量的重构误差，却没有充分利用因子矩阵中的可解释和判别信息。此外，大多数方法需要领域知识才能进行特征选择。为了解决上述问题，我们开发了两个稀疏张量主成分分析（STPCA）模型，利用因子矩阵中的投影方向进行UFS。第一个模型将Tucker分解扩展为多视角稀疏回归形式，并转化为多个交替求解的凸子问题。第二个模型制定了张量奇异值分解（T-SVDs）家族的稀疏版本，并转化为单个凸子问题。对于这两个模型，我们证明了每个子问题的最优解都落在Hermitian正半定锥（HPSD）上。因此，我们设计了两个基于HPSD投影的快速算法，并证明了它们的收敛性。根据在两个原始合成数据集（Orbit和Array Signal）和五个真实数据集上的实验结果，这两种提出的方法适用于处理不同的数据张量场景，并优于最先进的UFS方法。

本论文旨在解决无监督特征选择中现有方法无法充分利用张量分解中因子矩阵中的可解释和可区分信息的问题，以及大多数方法需要领域知识来执行特征选择的问题。

本文提出了两种稀疏张量主成分分析（STPCA）模型，利用因子矩阵中的投影方向来执行无监督特征选择。两种模型均基于HPSD投影设计了快速算法，并证明了其收敛性。

本文的实验结果表明，两种提出的方法适用于处理不同的数据张量场景，并优于现有的无监督特征选择方法。本文使用了两个原始合成数据集（Orbit和Array Signal）和五个真实数据集进行实验。

最近在这个领域中，还有一些相关的研究，如Tensor Decomposition-based Feature Selection via Structure Learning和Multi-view feature selection via structured low-rank matrix factorization。