Development of Perturbation Robust and Interpretable Deep Learning Models and Evaluation of Their Interpretability

扰动鲁棒且可解释的深度学习模型的开发及其可解释性的评估

基本信息

批准号：
21J14143
负责人：
北田俊輔
金额：
$ 0.96万
依托单位：
Hosei University
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-28 至 2023-03-31
项目状态：
已结题

项目摘要

本研究では、解釈性の高い予測の根拠を提示可能な深層学習モデルの予測精度向上を目的とし、以下2項目に焦点を当てて研究を行う: (1) 摂動に頑健で解釈可能な深層学習モデルの確立、(2) 予測の解釈手法が提示する根拠に対する評価指標の確立。2022年度は後者について研究を実施した。学習済みモデルの注意の重みに対して、これまで解釈性の評価に使われてこなかった既存の指標や、人手のアノテーションを利用した新たな指標を元に、予測根拠に対する評価指標の確立を模索した。このとき、解答根拠が人手によって付与された既存のオープンデータセットの利用のほか、クラウドソーシングの利用を検討した。深層学習モデルが提示する根拠に対して、勾配とアノテーション一致率や認知心理学的アプローチを参考に、その妥当性について検証した。さらに近年頻繁に利用されている既存手法や提案手法によって学習された注意の重みが、人間の解釈と近いものであるかを調査した。

在本研究中，我们的目标是提高深度学习模型的预测精度，为预测提供高度可解释的基础，我们将重点关注以下两项：（1）对扰动具有鲁棒性且可解释的深度学习的建立。模型的建立，以及（2）为预测解释方法提供的证据建立评估指标。 2022年，我们对后者进行了研究。基于尚未用于评估可解释性的现有指标和使用人工注释的新指标，探索建立训练模型注意力权重预测基础的评估指标。此时，我们考虑使用众包以及使用现有的开放数据集，其中手动提供答案的基础。我们通过参考梯度、注释匹配率和认知心理学方法验证了深度学习模型提供的证据的有效性。此外，我们还研究了近年来频繁使用的现有方法和提出的方法学习到的注意力权重是否与人类的解释相似。

项目成果

期刊论文数量（13）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

Making attention mechanisms more robust and interpretable with virtual adversarial training

DOI：
10.1007/s10489-022-04301-w
发表时间：
2021-04
期刊：
Applied Intelligence
影响因子：
5.3
作者：
Shunsuke Kitada;H. Iyatomi
通讯作者：
Shunsuke Kitada;H. Iyatomi

Expressions Causing Differences in Emotion Recognition in Social Networking Service Documents

DOI：
10.1145/3511808.3557599
发表时间：
2022-08
期刊：
Proceedings of the 31st ACM International Conference on Information & Knowledge Management
影响因子：
0
作者：
Tsubasa Nakagawa;Shunsuke Kitada;H. Iyatomi
通讯作者：
Tsubasa Nakagawa;Shunsuke Kitada;H. Iyatomi

ViT-CLT: パッチ分割した文字画像から偏旁冠脚を考慮した文書分類

ViT-CLT：考虑块分割字符图像偏振的文档分类

DOI：
发表时间：
2022
期刊：
影响因子：
0
作者：
津嶋祐介;青木匠;北田俊輔;彌冨仁
通讯作者：
彌冨仁

Majority or Minority: 固有表現抽出におけるデータの不均衡性に着目した損失関数の提案

多数或少数：针对命名实体提取中数据不平衡的损失函数的提案

DOI：
发表时间：
2023
期刊：
影响因子：
0
作者：
根本颯汰;北田俊輔;彌冨仁
通讯作者：
彌冨仁

Feedback is Needed for Retakes: An Explainable Poor Image Notification Framework for the Visually Impaired

DOI：
10.1109/honet56683.2022.10019010
发表时间：
2022-11
期刊：
2022 IEEE 19th International Conference on Smart Communities: Improving Quality of Life Using ICT, IoT and AI (HONET)
影响因子：
0
作者：
Kazuya Ohata;Shunsuke Kitada;H. Iyatomi
通讯作者：
Kazuya Ohata;Shunsuke Kitada;H. Iyatomi