动态结构图模型的研究及其应用

Probabilistic graphical model is a class of important method for learning and inferring the structure of data. This project will propose a class of novel dynamic structure graphical models to learn the conditional dependence structures of some complex high-dimensional data such as dynamic discrete and continuous mixed data etc.，whose structures are difficultly mined by the existing probability graphical models. In this project, we will study this kind of dynamic graphical models from the following aspects: 1) try to establish a class of novel multivariate probability distribution to model the complex data, and establish a class of novel structure penalty function to model the dynamic structure; 2) will propose a class of efficient proximal Newton method to estimate the proposed models, and use the screening technique to speed up our algorithm; 3) try to establish the high-dimensional statistical property of our models; 4) will develop a class of novel dynamic tensor graphical models to learn structure of the complex dynamic tensor data. Finally, we apply the proposed graphical models to analyze some complex real data such as the sequential genomic data to mine the oncogene.

概率图模型是机器学习中的一类用于学习与推断数据结构关系的重要方法。本项目针对现有概率图模型难以胜任复杂的动态高维数据（如动态的离散与连续混合数据等）的结构学习，拟建立一类新的动态结构图模型用于学习此类数据的动态结构。具体从四方面展开研究：1）在建模方面，尝试构建一类新的多元概率分布刻画复杂的高维数据，并构建一类新的结构正则化函数刻画数据的动态结构；2）在优化方面，利用目标问题中光滑项的二阶信息，提出一类高效近端牛顿算法，并利用筛选技术对算法加速； 3）在理论分析方面，尝试在一般条件下建立模型的高维统计性质，探索在有限样本下恢复高维结构的情况；4）在模型拓展方面，考虑将新提出的图模型推广到更复杂的张量型数据，发展出一类新的动态张量图模型。最后，将提出的图模型应用于一些复杂的真实数据，如时序基因组数据以挖掘出致癌基因。

概率图模型为一类有效机器学习模型用于挖掘数据的复杂结构关系，其广泛地应用于脑图像与气象数据分析等。考虑目前许多实际应用中数据为动态的如时序的脑图像数据与基因数据等，本项目研究一类更加复杂的动态概率图模型用于挖掘数据的动态结构关系。..针对复杂的动态图模型的学习，本项目提出一系列有效的零件优化方法，该优化方法不依赖于模型的一阶信息梯度，而只用模型的输出函数值。具体，本项目已提出一类快速的零阶近端优化方法能有效地求解具有非光滑结构的动态图模型问题，该成果已经发表在人工智能国际顶级会议 AAAI 2019。同时，本项目已提出一类快速的零阶交替乘子优化方法能有效地求解具有复杂结构的动态图模型问题如具有图结构的先验信息，该成果已经发表在人工智能国际顶级会议 IJCAI 2019。随后，本项目已提出一类快速的无投影零阶优化方法能有效地求解动态图模型问题，该成果已经发表在机器学习国际顶级会议 ICML 2020。..针对动态图模型的应用，本项目提出一些有效的一阶与二阶优化方法。具体，本项目提出一类快速的随机交替乘子优化方法用于求解复杂机器学习模型嵌入图结构的先验信息，该成果已经发表在机器学习国际顶级会议 ICML 2019。同时，本项目提出一类快速的随机拟牛顿优化方法用于求解具有复杂结构的机器学习模型如有图结构的先验信息，该成果录用于人工智能国际顶级期刊 IEEE TNNLS。

内容获取失败，请点击重试