Development of Perturbation Robust and Interpretable Deep Learning Models and Evaluation of Their Interpretability

扰动鲁棒且可解释的深度学习模型的开发及其可解释性的评估

基本信息

批准号：
21J14143
负责人：
北田俊輔
金额：
$ 0.96万
依托单位：
Hosei University
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-28 至 2023-03-31
项目状态：
已结题

项目摘要

本研究では、解釈性の高い予測の根拠を提示可能な深層学習モデルの予測精度向上を目的とし、以下2項目に焦点を当てて研究を行う: (1) 摂動に頑健で解釈可能な深層学習モデルの確立、(2) 予測の解釈手法が提示する根拠に対する評価指標の確立。2022年度は後者について研究を実施した。学習済みモデルの注意の重みに対して、これまで解釈性の評価に使われてこなかった既存の指標や、人手のアノテーションを利用した新たな指標を元に、予測根拠に対する評価指標の確立を模索した。このとき、解答根拠が人手によって付与された既存のオープンデータセットの利用のほか、クラウドソーシングの利用を検討した。深層学習モデルが提示する根拠に対して、勾配とアノテーション一致率や認知心理学的アプローチを参考に、その妥当性について検証した。さらに近年頻繁に利用されている既存手法や提案手法によって学習された注意の重みが、人間の解釈と近いものであるかを調査した。

这项研究旨在提高深度学习模型的预测准确性，这些模型可以为高度可解释的预测提供证据，并重点介绍两个项目：（1）建立对扰动的强大且可解释的深度学习模型，以及（2）通过预测解释提供的证据来建立评估指标。我们于2022年对后者进行了研究。我们试图基于现有指标的预测基础评估指数，这些指标尚未用于评估以前的可解释性，并使用手动注释的新指标，以在受过训练的模型中对注意力的重视。目前，我们考虑了使用众包，除了将现有的开放数据集与手动答录接地使用。深度学习模型提出的证据的有效性通过梯度，注释一致率和认知心理方法验证。此外，我们研究了近年来经常使用的现有和提出的方法学到的注意力的重量是否类似于人类的解释。

项目成果

期刊论文数量（13）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

Making attention mechanisms more robust and interpretable with virtual adversarial training

DOI：
10.1007/s10489-022-04301-w
发表时间：
2021-04
期刊：
Applied Intelligence
影响因子：
5.3
作者：
Shunsuke Kitada;H. Iyatomi
通讯作者：
Shunsuke Kitada;H. Iyatomi

Expressions Causing Differences in Emotion Recognition in Social Networking Service Documents

DOI：
10.1145/3511808.3557599
发表时间：
2022-08
期刊：
Proceedings of the 31st ACM International Conference on Information & Knowledge Management
影响因子：
0
作者：
Tsubasa Nakagawa;Shunsuke Kitada;H. Iyatomi
通讯作者：
Tsubasa Nakagawa;Shunsuke Kitada;H. Iyatomi

ViT-CLT: パッチ分割した文字画像から偏旁冠脚を考慮した文書分類

ViT-CLT：考虑块分割字符图像偏振的文档分类

DOI：
发表时间：
2022
期刊：
影响因子：
0
作者：
津嶋祐介;青木匠;北田俊輔;彌冨仁
通讯作者：
彌冨仁

Feedback is Needed for Retakes: An Explainable Poor Image Notification Framework for the Visually Impaired

DOI：
10.1109/honet56683.2022.10019010
发表时间：
2022-11
期刊：
2022 IEEE 19th International Conference on Smart Communities: Improving Quality of Life Using ICT, IoT and AI (HONET)
影响因子：
0
作者：
Kazuya Ohata;Shunsuke Kitada;H. Iyatomi
通讯作者：
Kazuya Ohata;Shunsuke Kitada;H. Iyatomi

Majority or Minority: 固有表現抽出におけるデータの不均衡性に着目した損失関数の提案

多数或少数：针对命名实体提取中数据不平衡的损失函数的提案