確率的挙動を示す学習アルゴリズムとそれによる学習概念のクラス分け

表现出随机行为的学习算法以及使用它们对学习概念进行分类的算法

基本信息

批准号：
05213201
负责人：
今井浩
金额：
$ 1.09万
依托单位：
The University of Tokyo
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research on Priority Areas
财政年份：
1993
资助国家：
日本
起止时间：
1993 至无数据
项目状态：
已结题

来源：
https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-05213201/
关键词：
計算論的学習理論 kラベル空間 VC次元ニューラルネット PAC学習 MAT学習

项目摘要

本年度の研究では,最終年度でもあるため研究課題のテーマ全般についてまとめることも行ないながら研究を行ない,以下の成果を上げた.(1)確率的挙動を示す学習アルゴリズムについて,特にkラベル空間を学習する問題について研究し,そのための基礎的な解析手法をまとめた.これにより,概念が最初からk種ある場合の学習に必要な例の数について,タイトな限界を与えることができた.これは,従来の正負2種ラベルを組み合わせてk(>2)種を表現するのより直接的でより改善された限界を与える.また,学習の複雑度の尺度としてkラベル空間の主細分関数を定義し,その重要性を指摘した.(2)関連した確率的学習でよく用いられる最近点探索の手法に関連したkボロノイ空間の複雑度を調べ,このような対象空間を確率的に学習する際の主細分関数を評価した.具体的には,分散に基づいたkクラスタリング問題に対して,初めてこれを学習するのに必要な例の数がkに関して線形であることを示した.さらに,その応用としてクラスタリングにおける学習問題に対して効率的な確率的挙動を示すアルゴリズムを与えた.(3)確率的な学習アルゴリズムでは,どうしても近似学習になる点に着目し,幾何概念の学習の際に付加情報がある場合を考え,それが幾何概念の質問による正確な学習につながる問題,付加情報が十分でない場合は近似的に学習する問題を考えた.これらは,3層のネットワーク関数において,各素子の関数として線形関数,乗算関数,最大値(あるいさ最小値)関数,しきい値関数を組み合わせたものが幾何概念に対応し,その幾何構造を用いることにより得られるものである.具体的には,ニューロコンピューティングに関係した幾何概念の内,凸多面体の学習,超平面集合の質問による正確な学習,超平面集合による空間の分割の近似的学習が可能であることを示した.

今年的研究是在总结研究主题的总体上进行的，因为它也是最后一年，结果如下：（1）我们研究了显示出随机行为的学习算法，尤其是学习k标签空间的问题，并总结了基本分析方法。这使我们能够严格限制概念开始时学习所需的示例数量。通过组合两个常规的正和负标签，这给出了表达K（> 2）物种的限制。我们还将k标签空间的主要细分函数定义为学习的复杂性，并指出了它的重要性。（2）我们研究了与最近的点搜索方法有关的K-Voronoi空间的复杂性，该方法通常用于相关的概率学习中，并评估了此类对象空间的主要细分函数。具体来说，我们首次根据方差使用了K聚类问题。它表明，学习所需的示例数是与K有关的线性。此外，作为一种应用程序，给出了一种算法，该算法显示了聚类中学习问题有效的随机行为。（3）在概率学习算法中，我们专注于不可避免地近似学习的观点，并考虑在学习几何概念时存在其他信息的情况，然后考虑通过几何学概念的问题来准确学习的问题，如果其他信息不够，我们会考虑近似学习的问题。这些是三层网络函数，它们结合了线性函数，乘法函数，最大值（最大值）函数和阈值函数作为每个元素的函数对应于几何概念，并且可以使用几何结构来获得。具体而言，我们表明，在与神经计算相关的几何概念中，凸多面体的学习，通过质疑超平面集的准确学习以及通过超平面集对空间分裂的近似学习是可能的。