Basic research on interpretability and causality in modeling time-dependent phenomena

瞬态现象建模中可解释性和因果关系的基础研究

• 批准号: 22K21278
• 负责人: 小松 瑞果
• 金额: $ 1.75万
• 依托单位: Kobe University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Research Activity Start-up
• 财政年份: 2022
• 资助国家: 日本
• 起止时间: 2022-08-31 至 2024-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-22K21278/
• 关键词: データ駆動型モデリング; 代数的可観測性; ニューラルネットワーク; 深層学習; 解釈性; 状態空間モデル; 代数; 時系列データ; 因果; 解釈可能性

近年，データ駆動型のモデリングが多数提案されている．このようなモデリングによる科学的知見の抽出に向け，本研究では，現象に関する解釈性等に焦点をおき，それに関するモデリングについて，代数を取り入れたアプローチで取り組む．以下，現象が微分方程式等に従うと仮定し，方程式の一部が未知と考えるアプローチ（以下，A）と，方程式の大部分が未知と考えるアプローチ（以下，B）の二つに大別し，それぞれの成果を概説する．（A）三つの研究を進めた．まず，Physics-Informed Neural Networkという深層学習モデルに代数的可観測性を取り入れた．これにより，観測データが限定的である場合にも物理現象等を予測可能なモデルが構築できた．本成果は，解釈性に優れた深層学習モデルとみなすことができる．既に，国内の研究集会で口頭発表を行い，2023年度には，数理生物に関する国際学会にて招待講演を予定している．その他は，以前より進めていた，パラメータがデータから同定不可能な場合や，物理計算系の設計に向けた，代数的アプローチに関する研究である．これについて論文を執筆し，現在投稿準備中である．(B）研究代表者及び共同研究者は，時間発展現象のモデル化に用いられるSciNetと呼ばれる深層学習モデルに対し，新たにSHAPという手法を適用した．具体的には，学習されたモデルの中間層と，現象を支配すると予想されるパラメータ候補の関係について，SHAPを用いて調べることで，深層学習モデルに解釈性を付与することができた．本手法について，パラメータ候補間に従属関係がある場合は解釈性の低下が予想されるが，この場合は，従属関係を考慮した拡張版SHAPや，シンボリック回帰の適用などにより対処できると考えられる．現在，これらの拡張を進めつつ研究のまとめを行っており，2023年度に口頭発表・論文執筆予定である．

近年来，人们提出了许多数据驱动的建模方法。为了通过这种建模提取科学知识，本研究的重点是现象的可解释性和结合代数的建模方法。下面，假设现象遵循微分方程等，大致分为两种方法：方程的一部分未知的方法（以下简称A）和假设方程的大部分的方法未知（以下简称 B）。 (A) 我们进行了三种类型的研究。首先，我们将代数可观测性融入到称为物理信息神经网络的深度学习模型中。因此，我们能够建立一个模型，即使在观测数据有限的情况下也可以预测物理现象。这一结果可以被视为具有出色可解释性的深度学习模型。我们已经在国内研究会议上做了口头报告，并计划在2023年的国际数学生物学学术会议上做邀请报告。我一直在做的另一项工作是研究代数方法，用于无法从数据中识别参数的情况以及物理计算系统的设计。我已经写了一篇关于这个主题的论文，目前正准备提交。 (B) 首席研究员和他的合作研究人员将一种称为 SHAP 的新方法应用于称为 SciNet 的深度学习模型，该模型用于模拟时间演化现象。具体来说，通过使用 SHAP 检查学习模型的中间层与预期控制现象的参数候选之间的关系，我们能够为深度学习模型添加可解释性。对于此方法，如果候选参数之间存在依赖关系，预计可解释性将会恶化，但这可以通过应用考虑依赖关系的 SHAP 扩展版本或通过应用符号回归来解决。目前，我们正在进行这些扩展和总结研究，计划在2023年进行口头报告并撰写论文。

项目成果

Ecole polytechniqu(フランス)

综合理工学院（法国）

未観測変数をもつPhysics-Informed Neural Networksに関する代数的考察

具有不可观测变量的物理信息神经网络的代数考虑

• 发表时间: 2022
• 作者: 伊藤 向子;巳鼻 孝朋;レーム アンドレ;堀﨑 遼一;成瀬 誠;小松瑞果
• 通讯作者: 小松瑞果

酵素工学ニュース Vol. 88

酶工程新闻第 88 卷

• 发表时间: 2022
• 作者: 巳鼻 孝朋;アンドレレーム;菅野 円隆;内田 淳史;堀﨑 遼一;成瀬 誠;小松瑞果
• 通讯作者: 小松瑞果

共同研究者の個人ウェブページ

共同研究员的个人网页