High-Quality Deep Learning Systems via Tracability Exploration between Requirements and Implementation

通过需求和实现之间的可追溯性探索来构建高质量的深度学习系统

• 批准号: 21H03420
• 负责人: 石川 冬樹
• 金额: $ 10.82万
• 依托单位: National Institute of Informatics
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Scientific Research (B)
• 财政年份: 2021
• 资助国家: 日本
• 起止时间: 2021-04-01 至 2025-03-31
• 项目状态: 未结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-21H03420/
• 关键词: 深層学習; 欠陥局所化; プログラム自動修正; デバッグ; Fault Localization

本研究では，深層学習で用いるDeep Neural Network（以後DNN）において要求の一部分と実装の一部分を対応づけるトレーサビリティーを実現する技術に取り組んでいる．特に，DNNの内部挙動を分析することにより，このトレーサビリティーを実現するアプローチを採っている．二年目となる2022年度においては，まず，全体産業界との議論を通し，社会実装において求められるDNNの修正パターンを明らかにした．次に，その修正パターンを踏まえ，望ましくない誤りの原因となっているDNN内の構成要素を分析する手法および，修正する手法に取り組んだ．これにより，重要な対象に対する誤り率の増加を抑えることを重視する手法や，複数種類の誤りに対してそれらのトレードオフを追求する手法を中心に，DNNの分析・修正に関する知見を得ることができた．

这项研究正在研究一种技术，该技术实现了与请求的一部分相对应的可追溯性，并在深度学习中使用了深度神经网络中的一部分（以下称为DNN）。特别是，我们采用了一种通过分析DNN的内部行为来实现这种可追溯性的方法。在2022财政年度的第二年，我们首先讨论了通过与整个行业的讨论进行社会实施所需的DNN修订模式。接下来，考虑到校正模式，我们研究了一种方法，用于分析和修改DNN中导致不良错误的组件。这使我们能够深入了解DNN分析和校正，重点是强调抑制重要对象错误率的增加以及在这些类型的错误之间进行权衡取舍的方法。

项目成果

What to Blame? On the Granularity of Fault Localization for Deep Neural Networks

应该责怪什么？

• 发表时间: 2021
• 作者: Matias Duran;Xiao-Yi Zhang;Paolo Arcaini;Fuyuki Ishikawa
• 通讯作者: Fuyuki Ishikawa

Distributed Repair of Deep Neural Networks

• DOI: 10.1109/icst57152.2023.00017
• 发表时间: 2023-04
• 期刊: 2023 IEEE Conference on Software Testing, Verification and Validation (ICST)
• 作者: Davide Li Calsi;Matias Duran;Xiaoyi Zhang;Paolo Arcaini;F. Ishikawa

NeuRecover: Regression-Controlled Repair of Deep Neural Networks with Training History

• DOI: 10.48550/arxiv.2203.00191
• 发表时间: 2022-03
• 期刊: 2022 IEEE International Conference on Software Analysis, Evolution and Reengineering (SANER)
• 作者: Sho Tokui;Susumu Tokumoto;Akihito Yoshii;F. Ishikawa;Takao Nakagawa;Kazuki Munakata;Shinji Kikuchi

An Experience Report on Regression-Free Repair of Deep Neural Network Model

深度神经网络模型无回归修复经验报告

• 发表时间: 2023
• 作者: Takao Nakagawa;Susumu Tokumoto;Shogo Tokui;Fuyuki Ishikawa
• 通讯作者: Fuyuki Ishikawa

Model-based Data-Complexity Estimator for Deep Learning Systems

用于深度学习系统的基于模型的数据复杂性估计器

• 发表时间: 2021
• 作者: Yuta Ojima;Shingo Horiuchi;Fuyuki Ishikawa
• 通讯作者: Fuyuki Ishikawa