Multicollinearity Analysis and Variable/Model Selection in Regression

回归中的多重共线性分析和变量/模型选择

基本信息

批准号：
21K01431
负责人：
刈屋武昭
金额：
$ 2.16万
依托单位：
Nagoya University of Commerce & Business
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (C)
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-01 至 2024-03-31
项目状态：
已结题

项目摘要

第一の論文では、伝統的な最小2乗法（ＯＬＳ）に基づく回帰分析でのモデル選択・変数選択法の枠組みを基礎から変革する、実証的に有効なモデル構築法（EEM法)を展開している。伝統的な被説明変数（ｙ）を利用した推定値の事後的診断法を繰り返しても、「個別」推定値の非効率性、安定性を確保できないため、昨年度の研究実績の内容を深化・進化させ、研究の核となる概念としてのEEMを設定して、ｙを利用しない説明変数（Ｘ）だけでの事前的な選択法を構築した。ここでモデルとは、行列Xの列の部分行列をいう。また、この研究では、個別の変数を選択するのではなく、有効なモデルの集合を選択するのが狙いである。そこでは、、第１に、EＥＭ法の個別推定値の効率性と安定性の概念を予測の分散の分解による、非効率性の測度（Ｉ）と重共線性の測度（Ｃ）に求め、これらがＸのみに依存する事実から、モデルＸの選択を(I,C）を制御して、yを利用しないEEM法を構築した。第2に、IC測度を用いて、個別推定値全体がEEMとなるモデルの必要十分条件を与えた。また伝統的な比較不能な個別推定値の標準誤差から予測の意味での標準誤差を定義し、EEM法は後者の値を直接的に制御する変数評価法としての役割を果たすことを示した。第三にモデルの（Xの部分行列の）集合全体に（I,C）測度による半順序を利用して、モデルのリスク概念を定義し、モデル比較を行う。そこでは、重共線性に焦点を当て、EEM法での変数選択法とモデルの許容性の概念を展開する。第4に、IC測度を制御するために、重共線性を制御する2つのアルゴリズムを開発した。変数増加法と主成分分析を用いた変数減少法である。このアルゴリズムのソフト開発は、共著者が展開している。具体的データに基づくEEM法によるモデル集合の選択事例を与えた。仮説検定に関係する重共線性の影響に関する第二論文は、大幅改定中である。

在第一篇论文中，我们开发了一种经验有效的模型构建方法（EEM 方法），从根本上改变了基于传统最小二乘法（OLS）的回归分析中的模型选择和变量选择方法的框架。即使我们重复使用传统因变量（y）进行估计的事后诊断方法，也无法确保“个体”估计的低效性和稳定性。仅使用解释变量 (X) 而不使用 y 的先验选择方法。这里，模型指的是矩阵 X 的列的子矩阵。此外，本研究的目的是选择一组有效的模型，而不是选择单个变量。首先，EEM 方法的个体估计的效率和稳定性的概念是通过将预测方差分解为无效率度量 (I) 和多重共线性度量 (C) 来确定的，因为这些仅取决于 X ，我们通过控制模型X（I，C）的选择构建了一个不使用y的EEM方法。其次，使用 IC 度量，我们为所有个体估计值都是 EEM 的模型提供了充分必要条件。我们还将预测意义上的标准误差从无法比较的传统个体估计标准误差中定义出来，并表明EEM方法发挥了直接控制后者值的变量评估方法的作用。第三，我们通过在整个模型集（X 的子矩阵）上使用带有（I，C）度量的偏序来定义模型的风险概念，并进行模型比较。在这里，我们将重点关注多重共线性，并发展 EEM 方法中变量选择方法和模型可接受性的概念。第四，为了控制 IC 测量，我们开发了两种算法来控制多重共线性。这是使用主成分分析的变量增加法和变量减少法。共同作者正在开发该算法的软件。给出了基于具体数据的EEM方法模型集选择的例子。第二篇关于与假设检验相关的多重共线性影响的论文正在进行重大修订。