关于大数据处理分布式学习算法的可行性理论研究

Classical statistical machine learning algorithms encounter two fundamental challenges in the big data age, namely how to design machine learning algorithms that can be applied to big data process and how to provide a theoretical analysis framework for the algorithms. For the first question, there have been huge literatures to generalize the classical algorithms to their distributed versions based on the divide-and-conquer strategy. However, it only has less theoretical analysis to support the feasibility of distributed learning algorithms..Therefore, we focus on two basic problems of applying machine learning algorithm to big data process in this project. One is developing a theoretical analysis framework to study the feasibility of the distributed learning algorithms. Another is generalizing some machine learning algorithms to their distributed versions (e.g. community detection algorithm base on stochastic blokmodels).

进入大数据时代，经典的统计机器学习算法面临着两个基本的挑战，即如何设计能够适应于大数据的统计机器学习算法，以及如何分析这样算法的可行性。针对第一个问题，有大量的文献研究了如何利用分而治之的策略把经典的统计机器学习算法推广为分布式学习算法。但是这样的分布式学习算法对于大数据处理是否是可行的仍然没有完整的理论研究。.因此，本项目将聚焦于研究统计机器学习方法应用于大数据的两个基本问题：第一，从理论上对于分布式学习算法研究其可行性，特别的对于分布式回归算法，分布式K均值聚类算法，分布式随机块算法提供可行性理论；第二，针对一些特定的还不能应用于大数据的非分布式学习算法（例如基于随机块模型的社区发现算法）设计分布式学习算法。

扣紧研究计划，项目组对大数据的分布式学习算法的可行性理论做了深入的研究。在理论方面，本项目的主要研究成果包括: 基于新的误差分解策略的分布式回归算法的学习理论。针对高维数据的稀疏聚类方法的可行性理论。针对大规模社交网络的统计建模与分析。基于上述三部分成果，本项目组共发表论文20篇，其中19篇文章被SCI收录，1篇会议文章被EI收录。特别的，其中一篇文章被统计机器学习的顶级期刊Journal of Machine Learning Research收录。本项目所构建的理论分析方法已经被其他文章所使用，并引用超过10余次。在人才培养方面，培养毕业博士2名，副教授1名，陕西省高等学校杰出青年人才1名。

内容获取失败，请点击重试