Toward Safe Evolution of Artificial Intelligence (AI) based Conversational Agents to Support Adolescent Mental and Sexual Health Knowledge Discovery

最近发布了各种基于人工智能的对话代理（CAs），青少年越来越多地使用CAs来进行敏感话题的互动知识发现，包括心理和性健康话题。通过在线搜索探索这些敏感话题一直是青少年发展的重要组成部分，而CAs可以通过类似人类对话的方式支持他们在这些话题上的知识发现。然而，已经有一些不良后果与青少年与基于AI的CAs的互动有关，比如暴露于不适当的内容、虚假信息和/或给出对他们的心理和身体健康有害的建议（例如自残）。在这篇立场论文中，我们讨论了当前的情况和CAs支持青少年心理和性健康知识发现的机会。我们还讨论了与确保青少年在涉及性和心理健康话题时与CAs互动的安全性相关的一些挑战。我们呼吁就如何为青少年安全地发展基于AI的CAs设定保护措施展开讨论。

如何确保青少年与基于人工智能的对话代理（CAs）交互时的安全性，特别是在涉及心理和性健康话题时？

探讨如何设置保护措施以确保基于人工智能的对话代理（CAs）在心理和性健康话题上与青少年的交互安全。

论文讨论了当前基于人工智能的对话代理（CAs）在支持青少年心理和性健康知识发现方面的现状和机遇，以及与此相关的挑战。呼吁对如何设置保护措施以确保基于人工智能的对话代理（CAs）与青少年在心理和性健康话题上的交互安全进行讨论。

最近的相关研究包括：1. 'Adolescent Mental Health and the Internet'；2. 'Using Social Media for Mental Health Research: Current Status and Privacy Implications'；3. 'A Review of Adolescents and Sexual Health: The Role of the Internet'。