汎関数に基づく統計的推測理論とモデリングへの応用

基于泛函函数的统计推断理论及其在建模中的应用

基本信息

批准号：
09874050
负责人：
小西貞則
金额：
$ 1.15万
依托单位：
Kyushu University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Exploratory Research
财政年份：
1997
资助国家：
日本
起止时间：
1997 至 1998
项目状态：
已结题

来源：
https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-09874050/
关键词：
統計的汎関数ベイズ型予測分布モデル階層型ニューラルネットワーク正則化法ブートストラップ法情報量・エントロピー非線形モデル ABIC 情報量規準一般化線形モデルブートストラップ罰則つき最尤法モデリング計算機統計

项目摘要

平成9年度の研究実績を踏まえ,統計的汎関数に基づく理論構築とそのモデリングへの応用について研究を行い,本年度は以下のような研究成果を上げた.1. データの確率的変動を指数型分布族で表現し,現象の非線形構造を捉えるための様々な非線形モデルを研究し,モデリングの基礎となる評価規準構築のための理論を統計的汎関数の枠組みの中で研究した.2. 1で研究した基礎理論を階層型ニューラルネットワークモデルを用いた非線形構造抽出のための問題に応用し,中間層のユニット数の決定法について研究した.特に,多数のパラメータで特徴づけられたモデルの推定に正則化法を適用した際の正則化パラメータの選択等について研究中である.3. 想定した確率分布モデルと事前分布を通して得られるベイズ型予測分布モデルの評価規準について研究し,この問題を統計的汎関数と漸近理論に基づくアプローチによって,モデルの評価と種々の事前分布の探索を可能とする情報量規準を構築した.特に,ハイパーパラメータをもつ事前分布を想定したべイズモデルについて研究を行い,ハイパーパラメータの有効な推定法を開発した.また,様々な分野のモデリングに用いられているABIC(Akaikeユs Bayesian Information Criterion)との関係を研究中である.これらの研究は,統計的汎関数の枠組みで一般理論を構成し,実際的側面に対しては,ブートストラツプMCMC,ギブスサンプラー等を併用し,より汎用性の高い手法開発を目指して研究を推進した.

我们在1997年研究成果的基础上，开展了基于统计泛函的理论构建及其在建模中的应用研究，今年取得了以下研究成果： 1.指数型我们研究了各种以分布族表示的非线性模型，以捕捉现象的非线性结构，研究了构建评价标准的理论，这是统计泛函框架内建模的基础。 2．我们将第 1 节中研究的基本理论应用于使用分层神经网络模型的非线性结构提取问题，并研究了确定隐藏层单元数量的方法。我们目前正在研究应用正则化参数时的选择。正则化估计方法3．我们研究通过假设的概率分布模型和先验分布获得的贝叶斯预测分布模型的评估标准，并基于统计泛函和渐近理论来解决该问题，以便能够对各种先验分布进行模型评估和探索。特别是，我们对贝叶斯模型进行了研究。假设具有超参数的先验分布，并开发了一种有效的超参数估计方法 ABIC（Akaikeyus Bayesian Information）。这些研究由统计泛函框架中的一般理论组成，在实际方面，引导MCMC、吉布斯采样器等与更一般的理论结合使用进行研究，目的是开发高效的方法。