ユビキタス機械学習社会におけるプライバシ保護基盤

无处不在的机器学习社会中的隐私保护基础设施

基本信息

批准号：
21H03496
负责人：
清雄一
金额：
$ 10.73万
依托单位：
The University of Electro-Communications
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (B)
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-01 至 2025-03-31
项目状态：
未结题

来源：
https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-21H03496/
关键词：
ユビキタス機械学習プライバシ IoT セキュリティ

项目摘要

顔画像やセンサーデータを含む学習済み機械学習モデルの公開が増えており、ユビキタス機械学習社会が到来する。利便性が向上する一方で、個人情報漏洩のリスクが拡大し、全容把握が困難。本研究では、プライバシ漏洩リスクを明らかにし、個人特定や属性値漏洩を防ぐ基盤を提供することが目標である。今年度は、顔画像やセンサデータを対象に機械学習モデルを構築し、その精度を向上させるアルゴリズムを提案した。さらに、機械学習モデルへのセキュリティ・プライバシ攻撃を検出するアルゴリズムを提案した。また、ユビキタス社会では誤差を持つデータが多数生成されることになる。誤差を持つデータを対象に、プライバシを保護しながら機械学習モデルを生成するアルゴリズムを提案した。具体的には、プライバシ保護指標として「差分プライバシ」を適用した。これは、Apple社など多くの企業で利用されている技術である。差分プライバシはオリジナルの値に意図的にノイズを与えることによってプライバシを保護する。本研究では、オリジナルの値には誤差が含まれており、誤差を含まない「真の値」を保護する新しいコンセプトの下で差分プライバシを適用した。プライバシを保護できることを数学的に証明したほか、データ解析精度が向上することを示した。このほか、CTで生成された画像を高精度に再構築する深層学習モデルを生成したほか、主に医療データを対象にして、Similarity attack, Skewness attack, Sensitivity attackを防ぐことのできるシステムを構築した。

随着越来越多的公开训练的机器学习模型在内，包括面部图像和传感器数据，无处不在的机器学习社会就在我们身上。尽管有改善的便利性，但个人信息泄漏的风险会增加，因此很难掌握全部情况。这项研究的目的是阐明隐私泄漏的风险，并为防止个人识别和归因价值泄漏提供基础。今年，我们提出了一种算法，该算法将构建用于面部图像和传感器数据的机器学习模型，并提高这些模型的准确性。此外，提出了一种算法来检测机器学习模型的安全隐私攻击。此外，在一个普遍存在的社会中，将产生大量具有错误的数据。我们提出了一种算法，该算法生成机器学习模型，同时保护错误的数据。具体而言，将“差异隐私”作为隐私保护指标应用。这是包括苹果在内的许多公司使用的技术。差异隐私通过故意陈述原始价值来保护隐私。在这项研究中，在一个新概念下应用了差异隐私，该概念保护包含错误并且不包含错误的“真实价值”。它在数学上证明可以保护隐私，还表明数据分析的精度得到了提高。此外，我们还创建了一个深度学习模型，该模型以高精度重建了CT生成的图像，并且我们建立了一个可以防止相似性攻击，偏斜攻击和感觉攻击的系统，主要针对医疗数据。

项目成果

期刊论文数量（40）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

Detecting Hardcoded Login Information from User Input

从用户输入中检测硬编码的登录信息

DOI：
发表时间：
2022
期刊：
影响因子：
0
作者：
Minami Yoda;Shuji Sakuraba;Yuichi Sei;Yasuyuki Tahara and Akihiko Ohsuga
通讯作者：
Yasuyuki Tahara and Akihiko Ohsuga

Anonymized Questionnaire Analysis with Differential Privacy for Large-Scale Crowdsourcing

大规模众包的具有差异隐私的匿名问卷分析

DOI：
发表时间：
2021
期刊：
影响因子：
0
作者：
古居彬;秋山倫之;辻敏夫;Yuichi Sei and Akihiko Ohsuga
通讯作者：
Yuichi Sei and Akihiko Ohsuga

Codewords Detection in Microblogs Focusing on Differences in Word Use Between Two Corpora

DOI：
10.1109/iccece49321.2020.9231109
发表时间：
2020-08
期刊：
2020 International Conference on Computing, Electronics & Communications Engineering (iCCECE)
影响因子：
0
作者：
Takuro Hada;Y. Sei;Yasuyuki Tahara;Akihiko Ohsuga
通讯作者：
Takuro Hada;Y. Sei;Yasuyuki Tahara;Akihiko Ohsuga

深層学習による汎用性の高いピアノリダクション自動生成技術

使用深度学习的高度通用的自动钢琴还原生成技术