AuditMAI: Towards An Infrastructure for Continuous AI Auditing

人工智能审计能力是实现负责任的人工智能系统设计的核心要求。然而，在当前应用中，它还不是一个突出的设计特征。现有的人工智能审计工具通常缺乏集成功能，仍然是孤立的方法。这导致人工智能审计通常是手动、高成本和大多是一次性的，需要替代方法。受其他领域如金融的启发，持续的人工智能审计是进行定期评估人工智能系统的一个有前途的方向。然而，目前持续人工智能审计的方法还不成熟。为了解决这一差距，我们提出了Auditability Method for AI（AuditMAI），旨在成为持续人工智能审计基础设施的蓝图。为此，我们首先根据文献澄清了人工智能审计能力的定义。其次，我们从两个工业应用案例中推导出持续人工智能审计工具支持的要求。最后，我们开发了AuditMAI，并讨论了它作为持续人工智能审计基础设施蓝图的元素。

如何实现连续的人工智能审计？

提出了一种基于AuditMAI的基础设施，可以支持连续的人工智能审计。

论文提出了AuditMAI的构建蓝图，阐述了其元素和实现方式；通过两个工业用例，提出了连续人工智能审计工具支持的要求；着重讨论了连续人工智能审计的必要性和挑战。

最近的相关研究包括《Continuous Auditing of Machine Learning Models》、《Towards Continuous Auditing of Machine Learning Systems》等。