SC2: Towards Enhancing Content Preservation and Style Consistency in Long Text Style Transfer

文本风格转换（TST）旨在在保留语义内容的同时改变文本的风格极性。虽然最近的进展在短文本TST方面取得了显着进展，但它仍然是一个相对简单的任务，实际应用有限。更全面的长文本TST任务面临两个挑战：（1）现有方法在准确评估多个单词中的内容属性时遇到困难，导致内容退化；（2）传统的基础风格分类器损失在保持多个生成的句子中的一致风格方面遇到障碍。在本文中，我们提出了一种新的方法SC2，其中设计了一个多层联合风格-内容加权（JSCW）模块和一个风格一致性损失来解决这两个问题。JSCW同时评估令牌中风格和内容属性的数量，旨在获取无损内容表示，从而增强内容保留。多个JSCW层进一步逐步细化内容表示。我们设计了一个风格一致性损失，以确保生成的多个句子始终反映目标风格极性。此外，我们还结合了一个去噪非自回归解码器来加速训练。我们进行了丰富的实验，结果显示SC2相比竞争基线有显着改进。我们的代码：https://github.com/jiezhao6/SC2。

本论文旨在解决长文本风格转移中存在的两个问题：1.难以准确评估多个单词中的内容属性，导致内容下降；2.传统的样式分类器损失在维护多个生成句子中的一致样式方面遇到了障碍。

论文提出了一种新方法SC2，其中设计了多层联合样式-内容加权（JSCW）模块和样式一致性损失，以解决上述两个问题。JSCW同时评估令牌中样式和内容属性的数量，旨在获取无损内容表示，并增强内容保留。多个JSCW层进一步逐步精细内容表示。我们设计了样式一致性损失来确保生成的多个句子始终反映目标样式极性。

本论文提出的SC2方法在长文本风格转移任务中取得了显著的改进。实验中使用了多个数据集，并且公开了代码。此外，论文还引入了非自回归解码器以加速训练。

最近的相关研究包括：1.《Unsupervised Cross-lingual Representation Learning at Scale》；2.《Style Transfer from Non-Parallel Text by Cross-Alignment》；3.《A Neural Algorithm of Artistic Style》等。