Federated Learning Infrastructure for Collaborative Machine Learning on Heterogeneous Environments
用于异构环境下协作机器学习的联邦学习基础设施
基本信息
- 批准号:22KJ2289
- 负责人:
- 金额:$ 1.09万
- 依托单位:
- 依托单位国家:日本
- 项目类别:Grant-in-Aid for JSPS Fellows
- 财政年份:2023
- 资助国家:日本
- 起止时间:2023-03-08 至 2024-03-31
- 项目状态:已结题
- 来源:
- 关键词:
项目摘要
I proposed an infrastructure to allow individuals to collaboratively develop machine learning models on their environments, which are usually heterogeneous.The proposed infrastructure allows researchers to work together and potentially build better models than big companies can. The proposed infrastructure applied federated learning to train the models while preserving data privacy. I proposed three components in the proposed infrastructure to support training a model on diverse storage, computing, and network resources efficiently. First, I proposed a component to reduce the model size to fit the storage capacity of the heterogeneous environment. Second, I proposed a component to aggregate the models trained on heterogeneous computing resources. Third, I proposed a component to sparsify the model for exchanging the models between a server and clients. The proposed infrastructure was evaluated using state-of-the-art neural network models to detect COVID-19 cases from chest X-ray images. COVID-19 detection is one of the most popular machine learning applications for privacy-sensitive data. As a result, the ensemble model with heterogeneous structures on six different hardware environments from the proposed infrastructure produces accuracy higher than a trained single COVID-NET by 5.39%.
我提出了一个基础设施,允许个人在他们的环境中协作开发机器学习模型,这些环境通常是异构的。所提出的基础设施允许研究人员一起工作,并有可能构建比大公司更好的模型。拟议的基础设施应用联合学习来训练模型,同时保护数据隐私。我在所提议的基础设施中提出了三个组件,以支持有效地训练不同存储、计算和网络资源上的模型。首先,我提出了一个组件来减少模型大小以适应异构环境的存储容量。其次,我提出了一个组件来聚合在异构计算资源上训练的模型。第三,我提出了一个组件来稀疏模型,以便在服务器和客户端之间交换模型。使用最先进的神经网络模型对拟议的基础设施进行了评估,以从胸部 X 射线图像中检测 COVID-19 病例。 COVID-19 检测是针对隐私敏感数据最流行的机器学习应用程序之一。因此,所提出的基础设施中六种不同硬件环境上具有异构结构的集成模型的准确率比经过训练的单个 COVID-NET 高 5.39%。
项目成果
期刊论文数量(3)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
Automated Quantization and Retraining for Neural Network Models Without Labeled Data
无标记数据的神经网络模型的自动量化和再训练
- DOI:10.1109/access.2022.3190627
- 发表时间:2022
- 期刊:
- 影响因子:3.9
- 作者:Kundjanasith Thonglek;Keichi Takahashi;Kohei Ichikawa;Chawanat Nakasan;Hidemoto Nakada;Ryousei Takano;Pattara Leelaprute;Hajimu Iida
- 通讯作者:Hajimu Iida
Sparse Communication for Federated Learning
- DOI:10.1109/icfec54809.2022.00008
- 发表时间:2022-05
- 期刊:
- 影响因子:0
- 作者:Kundjanasith Thonglek;Keichi Takahashi;Koheix Ichikawa;Chawanat Nakasan;P. Leelaprute;Hajimu Iida
- 通讯作者:Kundjanasith Thonglek;Keichi Takahashi;Koheix Ichikawa;Chawanat Nakasan;P. Leelaprute;Hajimu Iida
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
数据更新时间:{{ journalArticles.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ monograph.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ sciAawards.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ conferencePapers.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ patent.updateTime }}
Thonglek Kundjanasith其他文献
Thonglek Kundjanasith的其他文献
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
相似国自然基金
代理模型融合与迁移的分布式数据驱动进化计算方法
- 批准号:62376097
- 批准年份:2023
- 资助金额:51 万元
- 项目类别:面上项目
去中心化分布式计算中数据异质性的非监督统计模型研究
- 批准号:12301336
- 批准年份:2023
- 资助金额:30 万元
- 项目类别:青年科学基金项目
可变扩散系数非局部问题的分布式可扩展的有限元并行计算方法
- 批准号:12301496
- 批准年份:2023
- 资助金额:30 万元
- 项目类别:青年科学基金项目
面向超大图数据分析的多样本分布式计算方法与算法研究
- 批准号:62372308
- 批准年份:2023
- 资助金额:50 万元
- 项目类别:面上项目
面向分布式学习的弹性稀疏编码边缘计算
- 批准号:62371349
- 批准年份:2023
- 资助金额:49 万元
- 项目类别:面上项目
相似海外基金
CAREER: Green Functions as a Service: Towards Sustainable and Efficient Distributed Computing Infrastructure
职业:绿色功能即服务:迈向可持续、高效的分布式计算基础设施
- 批准号:
2340722 - 财政年份:2024
- 资助金额:
$ 1.09万 - 项目类别:
Continuing Grant
CRII: CSR: Enhancing Eventual Data Consistency in Multidimensional Scientific Computing through Lightweight In-Memory Distributed Ledger System.
CRII:CSR:通过轻量级内存分布式账本系统增强多维科学计算中的最终数据一致性。
- 批准号:
2348330 - 财政年份:2024
- 资助金额:
$ 1.09万 - 项目类别:
Standard Grant
Towards Distributed Computing on a Quantum Network
迈向量子网络上的分布式计算
- 批准号:
2906416 - 财政年份:2024
- 资助金额:
$ 1.09万 - 项目类别:
Studentship
CAREER: Towards Fault-tolerant Edge Computing for Cyber-Physical Systems: Distributed Primitives for Coordination under Cyber Attacks
职业:走向网络物理系统的容错边缘计算:网络攻击下协调的分布式原语
- 批准号:
2334021 - 财政年份:2023
- 资助金额:
$ 1.09万 - 项目类别:
Continuing Grant
CAREER: Towards Fault-tolerant Edge Computing for Cyber-Physical Systems: Distributed Primitives for Coordination under Cyber Attacks
职业:走向网络物理系统的容错边缘计算:网络攻击下协调的分布式原语
- 批准号:
2238020 - 财政年份:2023
- 资助金额:
$ 1.09万 - 项目类别:
Continuing Grant