Detecting sexually explicit content in the context of the child sexual abuse materials (CSAM): end-to-end classifiers and region-based networks

儿童性虐待材料（CSAM）对全球儿童的安全和福祉构成了重大威胁。检测和防止这类材料的传播是执法机构和技术公司的关键任务。由于内容审核通常是手动的，开发自动检测系统可以帮助减少人工审核人员接触到潜在有害图像的风险，并加速对抗过程。本研究提出了用于分类性暴力内容的方法，这对于自动化CSAM检测系统起着至关重要的作用。本研究探索了几种解决方案：端到端分类器、带有人员检测和私人身体部位检测器的分类器。所有提出的方法都在从在线举报违法内容的工具中获取的图像上进行了测试。由于法律限制，数据的访问受到限制，所有算法都在隔离服务器上远程执行。端到端分类器产生了最有前途的结果，经过使用额外的中性样本和成人色情图像增加训练集后，准确率达到了90.17％。虽然基于检测的方法可能无法达到更高的准确率，并且不能作为单独的最终分类器，但将它们包含在系统中可能是有益的。以人体为导向的方法生成的结果更易于解释，当分析训练过程中没有直接访问数据的模型时，获得更易于解释的结果至关重要。

论文旨在解决儿童性虐待材料（CSAM）的自动检测问题，以帮助警方和科技公司快速识别和防止这些材料的传播。

论文提出了几种分类性爱内容的方法，包括端到端分类器、带有人物检测和私人身体部位检测器的分类器等。其中，端到端分类器表现最佳，可以达到90.17%的准确率。

论文的实验在限制数据访问的情况下进行，所有算法都在隔离服务器上远程执行。除了提出的分类方法外，论文还探讨了使用检测技术的优缺点。值得关注的是，人体定位方法生成的结果更易于解释，对于分析无法直接访问数据的模型非常重要。论文未公开代码，但使用了在线举报非法内容的工具获取数据集。

近年来，许多研究尝试使用深度学习技术来解决CSAM检测问题。其中一些研究包括“Automated Detection of Child Sexual Abuse: A Review and New Model for Practical Use”和“Deep Learning for Classification of CSAM Images”。