AdaPI: Facilitating DNN Model Adaptivity for Efficient Private Inference in Edge Computing

私有推理（PI）已成为在边缘计算中对加密数据执行计算以保护用户隐私和模型参数的有前途的解决方案。然而，现有的PI方法主要考虑到恒定的资源限制，忽视了不同边缘设备中多样化和动态的资源限制，如能量预算。因此，模型提供者必须为不同的设备设计专门的模型，这些模型都必须存储在边缘服务器上，导致部署效率低下。为了填补这一空白，本文提出了AdaPI，一种新颖的方法，通过允许模型在具有不同能量预算的边缘设备上表现良好来实现自适应PI。AdaPI采用了一种PI感知的训练策略，该策略优化了模型权重以及权重级别和特征级别的软掩模。这些软掩模随后被转换为多个二进制掩模，以使通信和计算工作负载得以调整。通过使用越来越密集的二进制掩模顺序训练模型，AdaPI实现了每个能量预算的最佳准确性，其在CIFAR-100上的测试准确性比最先进的PI方法高出7.3％。AdaPI的代码可以通过https://github.com/jiahuiiiiii/AdaPI访问。

本文旨在解决现有私有推理方法在考虑资源约束时存在的问题，即无法适应多样化和动态化的边缘设备资源约束，需要为每个设备设计专门的模型，导致部署效率低下的问题。

本文提出了一种新的方法AdaPI，通过采用一个私有推理感知的训练策略，优化模型权重以及权重级别和特征级别的软掩码，并将这些软掩码转换为多个二进制掩码，从而允许在通信和计算工作负载上进行调整，实现模型在具有不同能源预算的边缘设备上的优化精度。

本文通过在CIFAR-100数据集上的实验验证了AdaPI方法的有效性，并展示了其在测试精度上优于现有私有推理方法7.3％。此外，AdaPI的代码已经在github上开源。

最近在这个领域中，还有一些相关的研究，如FedAvg、SecureBoost和DP-FedAvg等。