SecGenAI: Enhancing Security of Cloud-based Generative AI Applications within Australian Critical Technologies of National Interest

本文介绍了SecGenAI，一个综合性的安全框架，用于云端生成式人工智能（GenAI）应用，重点关注检索增强生成（RAG）系统。SecGenAI解决了功能、基础设施和治理要求，整合了端到端的安全分析，生成强调数据隐私、安全部署和共享责任模型的规范。与澳大利亚隐私原则、AI伦理原则和澳大利亚网络安全中心和数字转型机构的指南保持一致，SecGenAI缓解了数据泄露、对抗性攻击和模型反演等威胁。该框架的新颖方法将先进的机器学习技术与强大的安全措施相结合，确保符合澳大利亚的法规要求，同时增强GenAI系统的可靠性和信任度。本研究为智能系统领域提供了可行的安全GenAI实施策略，促进了AI应用的创新，并保障了国家利益。

论文旨在提出一个综合的安全框架SecGenAI，以确保云端生成AI应用的安全性，重点关注Retrieval-Augmented Generation (RAG)系统，以应对数据泄露、对抗攻击和模型反演等安全威胁。

SecGenAI框架采用先进的机器学习技术和强大的安全措施相结合的方法，确保符合澳大利亚的法规要求，提高了GenAI系统的可靠性和信任度。

论文结合了澳大利亚隐私原则、AI伦理原则、澳大利亚网络安全中心和数字转型机构的指南，提出了一些可行的安全策略，以在工业领域实现安全的GenAI实现。研究还设计了实验，并使用了一些数据集。

在这个领域中，最近的相关研究包括《A Survey of Security and Privacy Issues in Machine Learning for Cyber Security》、《Secure Federated Transfer Learning for Healthcare Applications》等。