pyvene: A Library for Understanding and Improving PyTorch Models via Interventions

在许多人工智能领域中，包括模型编辑、导航、鲁棒性和可解释性，对模型内部状态的干预是基本操作。为了促进这样的研究，我们介绍了一个名为$\textbf{pyvene}$的开源Python库，它支持对多种不同的PyTorch模块进行可定制的干预。$\textbf{pyvene}$支持复杂的干预方案，具有直观的配置格式，其干预可以是静态的，也可以包括可训练的参数。我们展示了$\textbf{pyvene}$如何提供一个统一且可扩展的框架，用于对神经模型进行干预，并与他人共享干预后的模型。我们通过因果抽象和知识定位的可解释性分析来说明该库的强大功能。我们通过Python包索引(PyPI)发布我们的库，并在https://github.com/stanfordnlp/pyvene上提供代码、文档和教程。

论文旨在提供一个开源的Python库，支持对PyTorch模型进行可定制化的干预操作，以实现模型编辑、调整、鲁棒性和可解释性等方面的研究。该库的设计目的是解决当前领域中缺乏统一、可扩展的模型干预框架的问题。

论文提出了一个名为pyvene的Python库，支持对PyTorch模型进行干预操作，包括静态或包含可训练参数的复杂干预方案。该库提供了一个直观的配置格式，可以进行定制化的干预操作。相对于当前领域中其他研究，pyvene提供了一个更统一、更易于扩展的模型干预框架。

论文提出的pyvene库是一个开源的Python库，支持对PyTorch模型进行干预操作。该库支持静态或包含可训练参数的复杂干预方案，并提供了一个直观的配置格式。论文通过使用pyvene库进行因果抽象和知识定位的解释性分析来展示该库的功能。pyvene库已发布在Python Package Index (PyPI)上，并提供了代码、文档和教程。

近期在这个领域中的相关研究有：1. "Towards A Rigorous Science of Interpretable Machine Learning"；2. "Interpretable Machine Learning: A Brief History, State-of-the-Art and Challenges"；3. "Towards Transparent AI Systems: Interpreting Visual Question Answering Models"。