知識埋め込み型ベイズ深層学習の提案と希少データ解析への応用

知识嵌入贝叶斯深度学习的提出及其在稀有数据分析中的应用

基本信息

批准号：
21H03511
负责人：
早志英朗
金额：
$ 11.15万
依托单位：
Osaka University (2022-2023)Kyushu University (2021)
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (B)
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-01 至 2024-03-31
项目状态：
已结题

来源：
https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-21H03511/
关键词：
ニューラルネットワーク深層学習ベイズ推定希少データ

项目摘要

本研究の目的は，希少データのための機械学習手法の開発とその実応用である．本研究は，(A) 特殊な分布を利用したBayesian Deep Neural Network (BDNN)の開発，(B) 確率モデルのネットワーク埋め込み，(C) 希少データ解析への応用から構成される．各項目に関連する研究実績は以下の通りである．(A) 相対的な順序ラベルが付与されたデータセットから学習できるBDNNを提案した（Kadota et al, MIUA, 2022）．提案法は，病気の重症度推定のような段階的なスコア予測タスクに利用できるだけでなく，提案BDNNの不確実性予測とactive learningと組み合わせることにより，内視鏡画像の効率的なアノテーションへ応用した．(B) 確率モデルに基づくNNを複数提案した．第一に，正規分布をベースとしたenergy-based modelとsoftmax関数を用いた識別層を相関させつつ学習する方法を提案し，識別器の信頼度較正へ応用した（Hayashi, MIRU, 2022）．さらに，提案法で構成した信頼度を利用した疑似ラベル学習手法を提案し，半教師あり画像識別タスクへ応用した（鳥羽ら，電気情報関係学会，2022）．第二に，隠れマルコフモデルに基づくNNを提案し，脳波識別ならびにブレインマシンインタフェースに応用した（Hayashi and Tsuji, IEEJ Trans., 2022）．(C) 新生児の自発運動であるgeneral movements (GMs)動画像の自動識別において既存手法を上回る精度を達成した（Hashimoto et al., MICCAI, 2022）．提案法では新生児を情報から撮影した動画像に対して，空間情報と時間情報を抽出するNNをそれぞれ構築し，抽出した特徴量を結合することで精度良い識別に役立てる．

这项研究的目的是为稀有数据及其实际应用开发机器学习方法。这项研究包括（a）使用特殊分布的贝叶斯深神经网络（BDNN）的发展，（b）概率模型的嵌入以及（c）应用于罕见数据分析的应用。与每个项目相关的研究结果如下：（a）我们提出了一个可以从具有相对顺序标签的数据集中学到的BDNN（Kadota等，MIUA，2022）。所提出的方法不仅可以用于逐步评分预测任务，例如疾病严重程度估计，而且还可以通过将其与所提出的BDNN不确定性预测和主动学习相结合，用于有效地注释内窥镜图像。（b）已经提出了基于概率模型的几个NN。首先，我们提出了一种通过使用SoftMax函数将基于正态分布和判别层的基于智能模型相关联的方法，并将其应用于分类器的可靠性校准（Hayashi，Miru，2022）。此外，提出了一种伪标签学习方法，该方法利用了该方法构建的可靠性，并将其应用于半监督的图像识别任务（Toba等人，电气和信息相关工程师协会，2022年）。其次，我们根据隐藏的马尔可夫模型提出了一个NN，并将其应用于脑波识别和脑机界面（Hayashi和Tsuji，IEEJ Trans。，2022）。（c）精度超过了自动识别通用运动（GMS）图像的现有方法，即新生儿运动运动（Hashimoto等，Miccai，2022）。在提出的方法中，构建了NNS以提取从新生儿信息中获取的视频图像提取空间和时间信息，并结合提取的功能以帮助准确识别它们。