ブースティング手法による統計的推論に関する理論的研究とその計算機による実装

Boosting方法统计推断的理论研究及其计算机实现

基本信息

批准号：
14780169
负责人：
金森敬文
金额：
$ 1.02万
依托单位：
Tokyo Institute of Technology
依托单位国家：
日本
项目类别：
Grant-in-Aid for Young Scientists (B)
财政年份：
2002
资助国家：
日本
起止时间：
2002 至 2004
项目状态：
已结题

项目摘要

今年度はアンサンブル学習のひとつであるブースティングについて,数理統計学や機械学習の観点から研究をおこなった.また,ロバスト統計の手法を応用して,回帰分析に新しいデータ解析法を導入した.以下に概要を述べる.1.ブーステイングの幾何学構造の解明性能があまり高くない学習方法を組み合わせて,強力な判別関数を構成する手法であるブースティングについて,情報幾何学的な観点から研究をおこなった.とくに多値判別について,既存手法を大幅に一般化する枠組を提供し,多様なノイズに対処可能な学習方法を提案した。2.ブースティングのロバスト化と有効性の両立についての研究ブースティングのロバスト化については,すでに本研究課題により研究がすすめられている.外れ値に対してロバストなだけではなく,さらに予測精度が非常に高いブースティング法を数理統計的な観点から提案し,その性能を理論,データ解析の両面から検証した.その結果,高次元大規模データに対して有効な方法であることが確認された.3.回帰分析に対する新しいデータ解析法の提案非常に裾が重く非対称性が高いような極めて複雑なノイズのもとで,安定した推定結果を与える学習方法を提案した.提案方法は単純なアルゴリズムで与えられ,計算効率が非常に良い.また既存方法ではノイズの分布に関する精報が必要であったが,提案手法はノイズに対する詳しい情報が得られない状況であっても,信頼性の高い推定結果が得られることが理論的に示された.さらに保険料推定など実データへの適用によって,提案手法が十分に実用的であることが明らにされた.

今年，我们从数理统计和机器学习的角度对boosting（集成学习的一种）进行了研究。我们还引入了一种应用鲁棒统计方法进行回归分析的新数据分析方法1.阐明性能。 boosting的几何结构我们对boosting进行了研究，boosting是一种从信息几何角度出发，结合价值不是很高的学习方法来构建强大的判别函数的方法。特别是对于多值判别式，我们进行了boosting的研究，这是一种可以显着概括现有方法的方法，并提出了一种可以处理各种噪声的学习方法。 2. 同时增强增强鲁棒性和有效性的研究通过这个非常高的展位，增强增强鲁棒性的研究已经取得了进展。提出了一种基于数理统计的方法，并从理论和数据分析的角度验证了其性能，证实了该方法是一种针对高维、大规模数据的有效方法。 3．分析方法分析方法我们提出了一种学习方法，可以在高度不对称的极其复杂的噪声下提供稳定的估计结果。该方法使用简单的算法，并且计算效率很高，尽管有关分布的详细信息。理论上表明，即使在无法获得噪声详细信息的情况下，该方法也能提供高度可靠的估计结果。此外，通过将该方法应用到保险费估计等实际数据中，该方法被证明：足够实用。

项目成果

期刊论文数量（15）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

Jose R.Dorronsoro (ED.): "Artificial Neural Networks ICANN2002"Springer. 1382 (2002)

Jose R.Dorronsoro（ED.）：“人工神经网络 ICANN2002”施普林格。

DOI：
发表时间：
期刊：
影响因子：
0
作者：
通讯作者：

Estimators for Conditional Expectations under Asymmetric and Heteroscedastic Error Distribusions

非对称和异方差误差分布下条件期望的估计

DOI：
发表时间：
2005
期刊：
International Symposium on The Art of Statistical Metaware 21
影响因子：
0
作者：
Takafumi Kanamori;Ichiro Takeuchi
通讯作者：
Ichiro Takeuchi

アンサンブル学習の新展開

集成学习的新进展

DOI：
发表时间：
2004
期刊：
Learning SICE symposium on Intelligent Systems 31
影响因子：
0
作者：
Takafumi Kanamori;Takashi Takenouchi;Shinto Eguchi;Noboru Murata;金森敬文
通讯作者：
金森敬文

Information geometry of U-Boost and Bregman divergence

DOI：
10.1162/089976604323057452
发表时间：
2004-07-01
期刊：
NEURAL COMPUTATION
影响因子：
2.9
作者：
Murata, N;Takenouchi, T;Eguchi, S
通讯作者：
Eguchi, S

Takeuchi, I., Bengio, Y., Kanamori T.: "Robust Regression with Asymmetric Heavy-Tail Nose Distributions"Neural Computation. 14. 2469-2496 (2002)

Takeuchi, I.、Bengio, Y.、Kanamori T.：“具有不对称重尾鼻子分布的鲁棒回归”神经计算。

DOI：
发表时间：
期刊：
影响因子：
0
作者：
通讯作者：

DOI：
{{ item.doi }}
发表时间：
{{ item.publish_year }}
期刊：
{{ item.journal_name }}
影响因子：
{{ item.factor }}
作者：
{{ item.authors }}
通讯作者：
{{ item.author }}

数据更新时间：{{ journalArticles.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ monograph.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ sciAawards.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ conferencePapers.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ patent.updateTime }}

金森敬文其他文献

局所情報による統計的推論

使用本地信息进行统计推断

DOI：
发表时间：
2017
期刊：
影响因子：
0
作者：
Hiroaki Sasaki;Takafumi Kanamori and Masashi Sugiyama,;熊谷亘，金森敬文;金森敬文
通讯作者：
金森敬文

Bregman divergence and its Applications

Bregman散度及其应用

DOI：
发表时间：
2016
期刊：
影响因子：
0
作者：
Hiroaki Sasaki;Takafumi Kanamori and Masashi Sugiyama,;熊谷亘，金森敬文;金森敬文;金森敬文
通讯作者：
金森敬文

非凸最適化に基づく機械学習アルゴリズムのロバストネス

基于非凸优化的机器学习算法的鲁棒性

DOI：
发表时间：
2015
期刊：
影响因子：
0
作者：
Takashi Takenouchi;Takafumi Kanamori;金森敬文，藤原秀平，武田朗子;竹之内高志，金森敬文;金森敬文;金森敬文，藤原秀平，武田朗子
通讯作者：
金森敬文，藤原秀平，武田朗子

Yoshiyuki Ninomiya

二宫由之

DOI：
发表时间：
2019
期刊：
影响因子：
0
作者：
金森敬文;竹之内高志;AIC for Change-Point Models and Its Application to a Biological Data Analysis
通讯作者：
AIC for Change-Point Models and Its Application to a Biological Data Analysis