基于敏感性的前向神经网络学习机制研究

结题报告

项目介绍

AI项目解读

基本信息

批准号：
60971088
项目类别：
面上项目
资助金额：
30.0万
负责人：
曾晓勤
依托单位：
河海大学
学科分类：
F0111.信号理论与信号处理
结题年份：
2012
批准年份：
2009
项目状态：
已结题
起止时间：
2010-01-01 至2012-12-31

项目参与者：
刘惠义；孟朝晖；邹阳；钟水明；杨静；刘智斌；许大军；陈贤明；
关键词：
敏感性前向神经网络泛化能力机器学习结构裁减

项目摘要

本项目的研究内容是以前向神经网络敏感性为理论和技术工具从一个新的角度来探索前向神经网络基于参数调整的学习机理，并以此建立性能更加高效、功能更加齐全的前向神经网络的学习机制。研究目的是克服和改善现有的前向神经网络学习算法表现出的诸如学习速度慢、学习成功率低等性能问题和存在的诸如缺乏自动优化网络结构、缺乏主动提升网络泛化能力等功能缺陷，力求设计出性能高、功能完善、方便使用的前向神经网络学习算法。研究意义在于它将为与提高神经网络学习性能和完善神经网络学习功能有关的研究从理论和技术上开辟一条新的探索途径，促进前向神经网络的学习机制有一个新的发展，使前向神经网络更加实用，从而在国民经济和社会发展中发挥更大作用。

结项摘要

本项目研究目标是以网络敏感性为理论基础和技术工具来改进和完善前向人工神经网络学习机制的性能和功能。研究内容主要包括：打造合适的网络敏感性尺度,提高网络学习算法的学习和泛化性能,增加网络结构自适应调整和多个网络集成的功能。. 网络敏感性方面,针对学习算法的需求,对多层感知机网络、自适应线性神经元网络、以及径向基函数网络分别进行了深入的研究，提出了更加适用的敏感性计算方法。网络学习算法性能改进方面，针对提高多层感知机网络集成学习的泛化性能，提出了新的基于敏感性尺度的网络差异性度量方法；针对改进自适应线性神经元网络学习精度和效率，提出了新的自适应线性神经元网络学习规则；另外，还研究了脉冲神经网络对时序的学习，提出了分别适用于神经元和网络的学习算法。网络学习算法功能完善方面，提出了在多层感知机网络学习过程中融入多个差异网络生成和集成的功能，在自适应线性神经元网络学习算法中融入网络结构自适应调整的功能，以及在径向基函数网络学习过程中融入属性裁减（降维）的功能。. 经过三年不懈的努力，我们在项目研究中取得了一批国际国内先进的创新性成果。撰写的学术论文已在多个国际国内著名的学术期刊和相关的国际学术会议上发表，编程实现的自适应线性神经元网络学习程序（版本V1.0）获得了国家版权局颁发的软件著作权证书,参加项目的博士和硕士研究生都受到了很好的培养。总之, 项目组完成了预定的研究指标。