VeriSplit: Secure and Practical Offloading of Machine Learning Inferences across IoT Devices

许多物联网设备需要依赖云计算资源来进行机器学习推断，这既昂贵又可能引起用户的隐私担忧。这些设备的消费者通常拥有硬件设备，如游戏机和带有图形加速器的个人电脑，这些设备可以进行这些计算，但往往会在很长一段时间内闲置。虽然这提供了一个有吸引力的潜在云卸载替代方案，但有关推断完整性、模型参数机密性和用户数据隐私的担忧意味着设备供应商可能会犹豫不决，不愿将其推断卸载到由另一家制造商管理的平台上。 我们提出了VeriSplit框架，它是一个用于将机器学习推断卸载到本地可用设备的框架，解决了这些问题。我们引入了掩码技术来保护数据隐私和模型机密性，并采用基于承诺的验证协议来解决完整性问题。与旨在解决这些问题的许多先前工作不同，我们的方法不依赖于有限域元素上的计算，这可能会干扰硬件加速器上的浮点计算支持，并需要修改现有模型。我们实现了VeriSplit的原型，我们的评估结果表明，与在本地执行计算相比，我们的安全和私密卸载解决方案可以将推断延迟降低28% - 83%。

该论文提出VeriSplit框架，旨在解决物联网设备使用云计算资源进行机器学习推断时的高成本和隐私问题。同时，该框架也解决了设备制造商不愿意将推断任务卸载到由其他制造商管理的平台上的问题。

VeriSplit框架采用掩码技术来保护数据隐私和模型机密性，并采用基于承诺的验证协议来解决完整性问题。与其他解决方案不同的是，该框架不依赖于有限域元素计算，这可能会干扰硬件加速器上的浮点计算支持并需要修改现有模型。

该论文的亮点在于提出了一种安全和私密的推断任务卸载解决方案，可以将推断延迟降低28％-83％。实验结果表明，该框架在保护隐私和保证完整性的同时，也提高了推断任务的效率。

在最近的相关研究中，也有类似于VeriSplit框架的解决方案。例如，基于同态加密的解决方案和基于加密多方计算的解决方案。