Secure Computing Platform in the AI Era

AI时代的安全计算平台

基本信息

批准号：
21H03442
负责人：
小泉佑揮
金额：
$ 10.82万
依托单位：
Osaka University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (B)
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-01 至 2024-03-31
项目状态：
已结题

项目摘要

本年度は、予定通り、機械学習モデルから漏洩するプライバシーの保護を目的としたセキュアなモデルの集約法の高度化と、分散学習における悪意のある通信を遮断するプロトコルの設計に取り組んだ。機械学習の方法として、これまでと同様にフェデレーテッドラーニングに注目した。フェデレーテッドラーニングは、学習データがユーザーの端末から出ないため、プライバシー保護の観点で有利であるとされているが、モデルインバージョンなどによりモデルから漏洩するプライバシー情報の保護には課題が残る。これに対して、本課題では、モデルに対して乱数でマスクをしつつも、全ユーザーでマスクしたモデルを足し合わせることでマスクが秘密裏に消えるセキュアなモデル集約法で対応した。ただし、この方法は、各ユーザーが更新したマスク付きモデルを他のユーザーと交換するため、通信量が多いという課題が残っていた。これに対して、安全に集約する性質を満たしながら一部をサーバーによる集約に置き換えることで、安全性を担保しながら通信量を削減する手法を設計した。さらに、サーバーによる検証にはGPUの利用を可能にし、これにより、フェデレーテッドラーニングにおけるセキュアな集約のスケーラビリティーを向上させた。さらに、改変したモデルなど、悪意のあるモデルを検出する既存のプロトコルに対しても、この方法を適用することを可能にした。一方、分散学習を支える通信プロトコルについては、これまでに検討していた軽量な匿名通信プロトコルに加え、匿名性と責任追跡性を両立する手法を設計した。具体的には、ユーザーの匿名性を担保しながらも、過去に悪意のある通信をしたユーザーからの通信を遮断することを可能にするプロトコルを設計した。

按计划，今年，我们致力于改进旨在保护从机器学习模型中泄漏的隐私的安全模型的聚合方法，并设计一种阻止分布式学习中恶意通信的协议。作为机器学习的一种方法，我们像以前一样专注于联合学习。从隐私保护的角度来看，联合学习被认为是有利的，因为学习数据不是从用户的设备中出现的，但是在保护由于模型反转等导致的模型中泄漏从模型等的隐私信息方面仍然存在挑战。相反，在此任务中，我们响应了一个安全的模型聚合方法，在这种方法中，掩码通过添加模型而被所有用户掩盖的模型消失，同时将所有用户随机消失，而这些模型在所有用户中都掩盖了所有用户，这些方法却被所有用户掩盖了，这些方法是由所有用户掩盖的，这些方法却被掩盖了所有效果。但是，此方法仍然存在流量高的问题，因为每个用户都会与另一个用户交换更新的蒙版模型。相比之下，我们设计了一种方法，可以减少通信量，同时通过在确保安全性的同时替换服务器聚合来确保安全性。此外，服务器验证允许使用GPU利用率，从而提高了联合学习中安全聚合的可扩展性。此外，该方法可以应用于检测恶意模型（例如修改模型）的现有协议。另一方面，关于支持分布式学习的通信协议，除了迄今已讨论的轻量级匿名通信协议外，我们设计了一种结合匿名性和责任跟踪的方法。具体而言，已经设计了一个协议来确保用户匿名，但还可以使过去做过恶意通信的用户进行沟通。