超高次元かつ分布多様なデータに対応できる統計的因果探索の開発

开发可以处理极高维和分布式数据的统计因果搜索

基本信息

批准号：
21J10457
负责人：
原田和治
金额：
$ 0.58万
依托单位：
The Graduate University for Advanced Studies
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-28 至 2023-03-31
项目状态：
已结题

项目摘要

本研究は，「高次元データへの対応」および「分布の多様性への対応」という二つの課題からなる計画であり，令和３年度（以下，本年度）は前者に取り組む計画であった．LiNGAMは統計的因果探索における代表的なモデルのひとつである．本研究では，LiNGAMを高次元データに適用することを目標とし，高次元データ解析で広く用いられるスパース推定法の技術の応用を試みた．この試みの困難な点は，主に次の二点である．(1) LiNGAMはパラメータ数がデータの次元の二乗に比例する性質を持ち，線形回帰モデルなどに比べ高次元データへの対応が困難である点．(2) LiNGAMの推定で用いられる独立成分分析は，データを予め無相関化し，パラメータ行列を直交行列に制約することで安定して実行できるが，直交制約とスパース推定の両立が原理的に難しい点．申請者はこれらの課題に対し，主として(1) L1罰則よりも強力にスパース性を誘導するAdaptive lasso型の罰則項を使用すること，(2) 直交制約を緩和し，パラメータ行列に直交性をゆるく課す罰則項を加えること，の２点で対応した．他にも，提案手法から導かれる最適化問題を解くため，細かな工夫を入れ込むことで，安定した推定が可能になった．提案手法は，サンプルサイズ1000に対し，既存手法がほとんど機能しなかった500次元（パラメータ数約25万）のデータに対しても十分な性能を示した．さらに低次元のデータに対しても，既存手法を上回る推定精度を示した．以上から，本年度の課題である「高次元データへの対応」については，十分に目標を達成したと申請者は考えている．以上の結果は機械学習の査読付き学術誌であるNeurocomputing誌に掲載された．また，次年度に向け，分布の多様性への対処の一環として，外れ値が含まれるデータに対する因果効果の推定という課題にも取り組んでいる．

这项研究是一个由“处理高维数据”和“处理分布多样性”两个问题组成的计划，计划在 2021 财年（以下简称本年度）解决前者。 LiNGAM 是统计因果搜索的代表性模型之一。在本研究中，我们旨在将LiNGAM应用于高维数据，并尝试应用在高维数据分析中广泛使用的稀疏估计技术。这次尝试的主要困难有以下两点。 (1)LiNGAM具有参数数量与数据维度的平方成正比的特性，使得与线性回归模型相比难以处理高维数据。 (2)LiNGAM估计中使用的独立分量分析可以通过预先对数据进行去相关并约束参数矩阵正交来稳定地执行，但原理上很难同时实现正交约束和稀疏估计点。申请人主要通过（1）使用比L1惩罚更强烈地引起稀疏性的自适应套索型惩罚项，以及（2）放宽正交性约束并使参数矩阵正交采取了两种措施：添加a。处罚条款将更加宽松。此外，我们通过结合小的改进来解决从所提出的方法导出的优化问题，使稳定的估计成为可能。即使对于样本量为 1000 和 500 维（大约 250,000 个参数）的数据，所提出的方法也显示出足够的性能，而现有方法几乎不起作用。此外，即使对于低维数据，估计精度也超过了现有方法。综上所述，申请人认为今年“处理高维数据”挑战的目标已经完全实现。上述结果发表在机器学习同行评审学术期刊《Neurocomputing》上。此外，明年，作为我们解决分布多样性问题的一部分，我们还将致力于估计包含异常值的数据的因果效应。