アンサンブル自己生成ニューラルネットワークのオンライン枝刈りアルゴリズムの研究

集成自生成神经网络在线剪枝算法研究

基本信息

批准号：
15700206
负责人：
井上浩孝
金额：
$ 2.3万
依托单位：
Kure National College of Technology
依托单位国家：
日本
项目类别：
Grant-in-Aid for Young Scientists (B)
财政年份：
2003
资助国家：
日本
起止时间：
2003 至 2004
项目状态：
已结题

项目摘要

本研究では、アンサンブル自己生成ニューラルネットワークの汎化能力を枝刈り前より改善し、かつ記憶容量を更に削減する効率的なオンライン枝刈り法を提案し、従来の手法であるk-近傍法、C4.5と汎化能力、計算コストを総合的に比較検討した。既発表の枝刈り法は全てのデータを提示して木を構築した後に枝刈りを行っているが、本研究では木を構築する際に逐次枝刈りを行うことで探索効率を改善し、計算コストを削減した。また、枝刈りの際、しきい値を用いて、ある部分木内の最多クラスがしきい値以上の割合を占有すれば、最多クラスを代表クラスとしてその部分木を刈り取ることで枝刈りを行い、冗長な情報を削減し、汎化能力を改善した。このしきい値の決定には、10群交差検定法を用いた。以下、年度ごとに研究実績を示す。平成15年度、高性能かつ安定なワークステーション上でアンサンブル自己生成ニューラルネットワークのオンライン枝刈りアルゴリズムを開発した。具体的には、UCI機械学習リポジトリに保管されているベンチマーク問題に対して本提案アルゴリズムを適用し、枝刈り前のモデルと計算コスト(計算時間、記憶容量)、得られた解の精度を比較検討した。また、本手法の有効性を検証するため、既存の手法であるk-近傍法との比較を同一環境で実験した。得られた結果を国際会議、国内の学会に投稿し、国内外の研究者のコメントを採り入れて新たな観点から再実験を行うことで研究の質を高めた。平成16年度は、平成15年度に得られた実験結果、新たな観点から行った再実験の結果を基に、研究成果を公表した。具体的には、国際会議で発表を行い、研究成果を電子情報通信学会論文誌D-II(情報・システム-パターン認識)に論文として投稿した。更に、関連研究を進め、IEEE等の海外の主要国際会議に研究成果を投稿した。

在这项研究中，整体自我生成的神经网络从修剪之前得到改善，并提出了一种有效的在线分支方法，以进一步降低存储能力，而常规的K-Nearly方法与.5，广义能力和计算成本相比。比较。先前宣布的分支方法介绍了所有数据和建造的树木，但是在这项研究中，搜索效率通过在建造树时依次切割树，并计算了计算。此外，如果您使用阈值值占据木树的某个部分的某个部分的比率，则最多的类是削减零件的班级数量，以减少零件。并提高了广义能力。使用10-组交点验证方法来确定此阈值。以下是每年的研究记录。 2003年，我们开发了一种合奏自我生产的神经网络在线分支算法，以高性能和稳定的工作站。具体来说，该提案算法应用于存储在UCI机器学习存储库中的基准问题，并在切割之前比较模型，计算成本（计算时间，存储容量）并获得了准确性。此外，为了验证这种方法的有效性，我们在同一环境中尝试了相同的环境。所获得的结果被发布给国际会议和国内学术社会，通过调和国内外研究人员的评论，并从新的角度再次进行研究，从而提高了研究质量。 2004年，根据2003年获得的实验结果以及从新的角度出发的实验结果，发表了研究结果。具体来说，演讲是在国际会议上进行的，研究结果是在D-II（信息 /系统模式识别）中作为论文发布的。此外，我们进行了相关研究，并向IEEE等主要国际会议发布了研究结果。

项目成果

期刊论文数量（12）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

H.Inoue, H.Narihisa: "SONG : Self-Organizing Neural Grove"Proc.of 3^<rd> International Workshop on Self-Organizing Maps. (2003)

H.Inoue、H.Narihisa：“SONG：自组织神经树丛”Proc.of 3^<rd> 国际自组织映射研讨会。

DOI：
发表时间：
期刊：
影响因子：
0
作者：
通讯作者：

H.Inoue, H.Narihisa: "Efficient Pruning Method for Ensemble Self-Generating Neural Networks"Journal of Systemics, Cybernetics and Informatics. Vol.1, No.6. (2003)

H.Inoue、H.Narihisa：“集成自生成神经网络的高效剪枝方法”系统学、控制论和信息学杂志。

DOI：
发表时间：
期刊：
影响因子：
0
作者：
通讯作者：

Improving Performance of a Multiple Classifier System Using Self-generating Neural Networks

DOI：
10.1007/3-540-44938-8_26
发表时间：
2003-06
期刊：
影响因子：
0
作者：
H. Inoue;H. Narihisa
通讯作者：
H. Inoue;H. Narihisa

Parallel and Distributed Performance of Self-Organizing Neural Grove

自组织神经丛的并行分布式性能

DOI：
发表时间：
2004
期刊：
Proc.of The 16th International Conference on Parallel Distributed Computing and Systems
影响因子：
0
作者：
Hirotaka Inoue;Hiroyuki Narihisa
通讯作者：
Hiroyuki Narihisa

Effective Pruning Method for a Multiple Classifier System Based on Self-Generating Neural Networks