ChatGPT as the Marketplace of Ideas: Should Truth-Seeking Be the Goal of AI Content Governance?

作为法律话语中最持久的隐喻之一，“思想市场”理论几十年来一直对法律学界产生着重要影响。一个世纪后，ChatGPT在21世纪成为了一项革命性的技术进步。本研究发现，ChatGPT有效地呈现了思想市场的隐喻。它不仅实现了几代法律学者设想的承诺，而且揭示了持续学术批评所观察到的危险。具体而言，ChatGPT的运作和思想市场理论具有至少四个共同特征：竞技场、手段、目标和缺陷。这些共同特征足以使ChatGPT成为历史上最有资格实现思想市场理论的引擎。 比较思想市场理论和ChatGPT只是一个起点。更有意义的工作是，通过参考研究人员提出的累积经验、见解和建议来重新评估和重新构建内部和外部AI政策，以修复市场理论。在这里，一个关键问题是：应该将寻求真相作为AI内容治理的目标吗？鉴于绝对寻求真相目标的不可达性，我反对采取零风险政策。相反，更明智的方法是采用基于知识的替代方案，其中大型语言模型（LLMs）被训练以生成基于充分理由的竞争和分歧观点。本研究还认为，所谓的AI内容风险并不是由AI公司创造的，而是整个信息生态系统固有的。因此，管理这些风险的负担应该分配给不同的社会行为者，而不是仅由聊天机器人公司承担。

论文试图探讨如何将 ChatGPT 与言论市场理论相结合，以实现言论市场理论的目标。

论文认为 ChatGPT 可以作为实现言论市场理论的最佳工具，提出了基于知识的替代方案，即使用大型语言模型生成基于充分理由的竞争性和不同的观点。

论文探讨了 AI 内容治理的目标是否应该设定为寻求真相，提出了分散 AI 内容风险管理责任的观点。实验使用了 ChatGPT 和言论市场理论的共同特征来比较两者。论文还提到 AI 内容风险不是由 AI 公司创造的，而是整个信息生态系统内在的。

相关研究包括：1. 基于大型语言模型的自然语言生成；2. AI 内容治理的法律和伦理问题；3. 信息生态系统中的信息失真和虚假信息传播。