Exploring Parent-Child Perceptions on Safety in Generative AI: Concerns, Mitigation Strategies, and Design Implications

普遍使用生成人工智能（GAI）的青少年已经导致了重大的误用和安全问题。为了识别风险并了解家长控制的挑战，我们对Reddit进行了内容分析，并采访了20名参与者（七名青少年和13名家长）。我们的研究揭示了家长对孩子使用GAI的广泛方式的认识存在重大差距，例如与基于角色的聊天机器人进行情感支持或参与虚拟关系。家长和孩子对与GAI相关的风险有不同的看法。家长主要关注数据收集、错误信息和暴露于不适当内容的风险。相反，青少年更关注成瘾于与GAI的虚拟关系、潜在的GAI误用以在社交群体中传播有害内容以及由于未经授权使用其个人数据而侵犯隐私。GAI平台上缺乏家长控制功能，迫使家长依赖系统构建的控制、手动检查历史记录、共享账户和进行积极调解。尽管有这些努力，家长仍然难以掌握GAI相关风险的全部范围，并进行有效的实时监控、调解和教育。我们提供设计建议，以改善家长与孩子之间的沟通，并增强GAI使用的安全性。

探讨青少年使用生成人工智能（GAI）存在的风险和安全问题，以及家长控制的挑战。

研究揭示了家长对孩子使用GAI的了解存在显著差距，提出了设计建议以改善家长与孩子之间的沟通和增强GAI使用的安全性。

研究通过Reddit内容分析和20位参与者采访（包括7名青少年和13名家长）得出结论。青少年和家长对GAI存在不同的风险感知。家长主要关注数据收集、错误信息和暴露于不当内容，而青少年更关注成瘾虚拟关系、GAI传播有害内容和未经授权使用个人数据的隐私侵犯。缺乏家长控制功能的GAI平台迫使家长依靠系统内置控件、手动检查历史记录、共享账户和积极调解。

该论文没有明确列举相关研究的论文标题。