Research on model selection of multi-layer perceptron

多层感知器模型选择研究

基本信息

批准号：
21500215
负责人：
HAGIWARA Katsuyuki
金额：
$ 2.25万
依托单位：
Mie University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (C)
财政年份：
2009
资助国家：
日本
起止时间：
2009 至 2011
项目状态：
已结题

项目摘要

In this research, we focus on a variability of basis functions in multi-layer perceptron and establish a model selection method for the case where basis functions are selected from a finite set of functions, in which the number of candidates is equal to the number of data. In the proposed method, functions in the set are orthogonalized and their coefficients are estimated. Inefficient coefficients are set to zero by thresholding. Then inverse transform yields the weights of original basis functions. The threshold level in this method is theoretically reasonable since it derived based on the variability of basis functions. We can obtain a smooth output and/or sparse representation depending on the method of orthogonalization. The method is applicable to multi-layer perceptron under a certain training algorithm.

在这项研究中，我们专注于多层感知器中基础功能的变异性，并为从有限的函数集选择基础函数的情况下建立模型选择方法，其中候选者数量等于数据的数量。在提出的方法中，集合中的函数是正交的，并且估计其系数。通过阈值将低效率的系数设置为零。然后，逆变换产生原始基础函数的权重。这种方法中的阈值级别在理论上是合理的，因为它是基于基础函数的可变性得出的。我们可以根据正交化方法获得平滑的输出和/或稀疏表示。该方法适用于在某些训练算法下的多层感知器。

项目成果

期刊论文数量（0）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

Nonparametric regression method based on orthogonalization and thresholding

基于正交化和阈值化的非参数回归方法

DOI：
发表时间：
2011
期刊：
IEICE Trans. INF. & SYST.
影响因子：
0
作者：
Kazunori Murakami;Tomoko Ozeki;K. Hagiwara
通讯作者：
K. Hagiwara

Orthogonalization and thresholding method for a nonparameteric regression problem

非参数回归问题的正交化和阈值方法

DOI：
发表时间：
2010
期刊：
影响因子：
0
作者：
中島章裕;尾関智子;萩原克幸
通讯作者：
萩原克幸

Orthogonalization and thresholding method for a nonparametric regression problem

非参数回归问题的正交化和阈值方法

DOI：
发表时间：
2009
期刊：
Adovances in Neuro-Information Processing, Lecture Notes in Computer Science
影响因子：
0
作者：
小峰龍二;尾関智子;株田佳毅，波床政志，武田昌一;K. Hagiwara
通讯作者：
K. Hagiwara

On a training scheme based on orthogonalization and thresholding for a nonparametric regression problem

基于正交化和阈值化的非参数回归问题的训练方案