階層的パターン抽出と最適ルール集合獲得に基づく説明可能動的グラフマイニング

基于层次模式提取和最优规则集获取的可解释动态图挖掘

基本信息

批准号：
22K12173
负责人：
尾崎知伸
金额：
$ 2.75万
依托单位：
Nihon University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (C)
财政年份：
2022
资助国家：
日本
起止时间：
2022-04-01 至 2026-03-31
项目状态：
未结题

来源：
https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-22K12173/
关键词：
データマイニング説明可能AI グラフマイニング説明可能ＡＩ

项目摘要

本研究課題は、既存の説明可能AI技術に関する問題点を軽減すると共に、深層学習モデルの安全な利用を促進するため、深層学習モデルから高い解釈性・了解性を持つ構造化知識を獲得することを目的としている。この目的に向け、本年度は（１）グラフニューラルネットワークに対する攻撃検知、（２）系列データに対する説明可能AI技術の応用、（３）解集合プログラミングを用いた知識獲得について研究を行った。グラフニューラルネットワークの攻撃検知に関しては、GCN中間層出力を対象とした特徴抽出と分類器・例外発見器の併用を用いる手法を開発するとともに、その発展として、中間層出力に対する距離学習・対照学習の適用を検討した。系列データに対する説明可能AI技術の応用に関しては、野球の投球データから打席結果を予測するLSTMモデルを対象に、系列モデルにおいて属性重要度を算出する説明可能AI技術であるTIMEおよびTimeSHAPの適用を行った。加えて、反実仮想説明生成器であるDiCEを援用し、投手の傾向を考慮した反実仮想説明の生成を行った。解集合プログラミングを用いた知識獲得に関しては、グラフ表現される不動産間取り図を対象に、その選好を表現する弱制約の抽出および分類ルールの獲得を行った。具体的には、帰納論理プログラミングシステムILASPを用いることで、部屋配置を表すグラフ構造に加え、窓の数などの各部屋が持つ属性を考慮した制約やルールを獲得することに成功した。また、解集合プログラミングを用いた別の応用として、人狼ゲームログからの役職推定システムを構築した。こちらは、矛盾を伴う知識を扱う確率論理プログラミングシステムLP＾MLNを利用し、ルールに加えて傾向を考慮した推定モデルを構築している。

这项研究的目的是从深度学习模型中获取具有高可解释性和可理解性的结构化知识，以缓解现有可解释人工智能技术的问题，并促进深度学习模型的安全使用。为此，今年我们进行了以下方面的研究：（1）图神经网络的攻击检测，（2）可解释的人工智能技术在序列数据上的应用，以及（3）使用解决方案集编程获取知识。关于图神经网络攻击的检测，我们开发了一种结合分类器和异常查找器对 GCN 中间层输出进行特征提取的方法，作为该方法的扩展，我们开发了一种使用距离的方法我们考虑了中间层输出的学习和对比学习。关于可解释的人工智能技术在系列数据中的应用，我们将计算系列模型中属性重要性的可解释的人工智能技术TIME和TimeSHAP应用于根据棒球投球数据预测击球结果的LSTM模型。此外，我们使用反事实解释生成器 DiCE 来生成考虑投手倾向的反事实解释。关于使用解决方案集编程的知识获取，我们提取了表达偏好的弱约束，并获取了以图表表示的房地产平面图的分类规则。具体来说，通过使用归纳逻辑编程系统ILASP，他们成功地获取了除了表示房间布局的图形结构之外还考虑到每个房间的属性（例如窗户数量）的约束和规则。此外，作为另一个使用解决方案集编程的应用程序，我们根据狼人游戏日志构建了一个角色估计系统。这使用处理具有矛盾的知识的概率逻辑编程系统LP^MLN来构建除了规则之外还考虑趋势的估计模型。