The Metacognitive Demands and Opportunities of Generative AI

生成式人工智能（GenAI）系统为转变专业和个人工作提供了前所未有的机会，但在促进、评估和依赖输出以及优化工作流程方面存在挑战。我们认为，元认知-监控和控制自己的思维和行为的心理能力-提供了一个有价值的视角，以理解和设计这些可用性挑战。借鉴心理学和认知科学的研究以及最近的GenAI用户研究，我们说明了GenAI系统对用户施加元认知需求，需要高度的元认知监控和控制。我们提出，可以通过将元认知支持策略整合到GenAI系统中，并通过设计GenAI系统以减少其元认知需求，从而解决这些需求。元认知提供了一个一致的框架，以理解GenAI所带来的可用性挑战，使我们能够提供研究和设计方向，以推进人-GenAI交互。

如何通过整合元认知支持策略和设计可解释性和可定制性来解决GenAI系统对用户的元认知需求过高的问题？

论文提出了将元认知支持策略整合到GenAI系统中以降低其对用户的元认知需求，并通过设计可解释性和可定制性来进一步减少这种需求的方法。

论文通过研究心理学和认知科学以及最近的GenAI用户研究，探讨了GenAI系统对用户的元认知需求过高的问题，并提出了解决这些问题的方法。论文还提出了一些元认知支持策略，并探讨了如何设计GenAI系统以降低其对用户的元认知需求。

最近的相关研究包括《可解释人工智能：从黑匣子到透明箱子》、《人工智能的可解释性：一份综述》、《元认知：定义、实现和应用》等。