特征值分解的统一在线学习方法研究

结题报告

项目介绍

AI项目解读

基本信息

批准号：
61002039
项目类别：
青年科学基金项目
资助金额：
18.0万
负责人：
刘力军
依托单位：
大连民族大学
学科分类：
F0111.信号理论与信号处理
结题年份：
2013
批准年份：
2010
项目状态：
已结题
起止时间：
2011-01-01 至2013-12-31

项目参与者：
马玉梅；孟佳娜；齐淑华；赵巍；谢丛波；刘延涛；邓俐伶；
关键词：
并行算法在线特征分解统一模型

项目摘要

本项目旨在研究和发展特征值分解的统一的在线学习方法。.特征分解在信息与通信系统中扮演着非常关键的角色，一方面，主分量分析（PCA）和次分量分析（MCA）的在线算法研究非常广泛，但是，怎样让一个梯度上升类型PCA算法可以通过向梯度下降方向搜索得到MCA算法，已经成为一个公开问题。另一方面，与PCA算法相比，国内外对于广义特征分解(GED)问题的自适应算法研究还尚未未有效展开，已经建立的PCA串并型模型以及子空间模型，对于GED问题是否可以同样得到? 特别的，统一的广义特征分解算法模型是否可以有效建立？.基于如上问题，本项目拟通过对微分系统添加稳定项的方法研究统一模型问题；通过构造同时在线估计特征值和特征向量的方式研究自适步长学习算法；研究广义特征分解问题的子空间提取算法、特征向量的串并行提取算法，并建立基于特征分解原理的盲源分离模型。

结项摘要

矩阵分解技术，特别是特征值分解方法在信息与通信系统中扮演着非常关键的角色。但是，作为极大优化问题的主分量分析（PCA）和极小优化问题的次分量分析（MCA），以及主子空间分析(PSA)和次子空间分析(MSA)，在统一的框架下对它们进行的研究工作最近才展开，相关问题亟待深入研究。 . 本项目以特征子空间的计算为主要研究目标，将问题抽象为特定矩阵流形上的优化问题，进而在优化框架上对统一学习算法的稳定性、离散系统的收敛性进行定性分析。我们将PCA和MCA问题，视为Stiefel流形上的优化问题，通过在Stiefel流形上引入特定的黎曼度量，进而得到了PCA和MCA问题的统一架.构的梯度学习算法。研究表明，紧致Stiefel流形对于一个学习系统是吸引的，那么它的对偶系统便成为不稳定的，相应的离散算法便发生发散现象。以Stiefel流形为研究对象，我们提出了沿测地线搜索的对偶主次分量学习算法和对偶子空间学习算法。对于PSA和MSA对偶计算问题，我们提出了Grassmann流形上基于广义Rayleigh商的全新的优化学习框架，与Stiefel流形不同，Grassman流形是非紧致的，而对于该学习框架的梯度学习算法，Grassman流形是中性稳定的，因此基于该框架的学习算法成功的实现了对偶PSA和MSA的学习目标。