Farsight: Fostering Responsible AI Awareness During AI Application Prototyping

Prompt-based interfaces for Large Language Models（LLMs）使得原型设计和构建AI应用比以往任何时候都更容易。然而，识别可能出现的AI应用程序的潜在危害仍然是一个挑战，特别是在基于提示的原型设计期间。为了解决这个问题，我们提出了Farsight，这是一种新颖的实时交互工具，帮助人们识别他们正在原型设计的AI应用程序的潜在危害。基于用户的提示，Farsight突出显示与相关AI事件有关的新闻文章，并允许用户探索和编辑LLM生成的用例、利益相关者和危害。我们报告了与10位AI原型设计者的共同设计研究的设计见解，并从42位AI原型设计者的用户研究结果中发现了结果。在使用Farsight后，我们的用户研究中的AI原型设计者能够更好地独立识别与提示相关的潜在危害，并发现我们的工具比现有资源更有用和可用。他们的定性反馈还强调，Farsight鼓励他们关注最终用户，并超越直接的危害进行思考。我们讨论这些发现，并反思它们对设计AI原型设计体验的影响。Farsight可以在以下网址公开访问：https://PAIR-code.github.io/farsight。

Farsight试图解决AI应用开发过程中难以识别潜在危害的问题，特别是在基于提示的原型设计中。

Farsight是一种交互式工具，可根据用户的提示，突出显示与AI事件相关的新闻文章，并允许用户探索和编辑LLM生成的用例、利益相关者和危害。

论文通过与10名AI原型设计者的共同设计研究和42名AI原型设计者的用户研究，发现使用Farsight后，AI原型设计者能够更好地独立识别与提示相关的潜在危害，并认为Farsight比现有资源更有用、更易用。Farsight还鼓励用户关注最终用户并思考超出即时危害的影响。

最近的相关研究包括AI应用的伦理问题和风险评估，以及基于提示的接口的使用和改进。