Boosting理论与算法的研究
项目介绍
AI项目解读
基本信息
- 批准号:61075003
- 项目类别:面上项目
- 资助金额:37.0万
- 负责人:
- 依托单位:
- 学科分类:F0605.模式识别与数据挖掘
- 结题年份:2013
- 批准年份:2010
- 项目状态:已结题
- 起止时间:2011-01-01 至2013-12-31
- 项目参与者:江明阳; 景兆祥; 邓效诚; 贺笛;
- 关键词:
项目摘要
Boosting是模式识别、机器学习领域最重要的研究成果之一。虽然在算法方面取得了突出的效果,但关于boosting的两个核心问题- - 1)Boosting为何具备优异的性能;2)Boosting为何会具有较强的抗过拟合能力- - 至今没有令人满意的理论解释。本项目将研究并建立完整的理论体系以回答上述两个核心问题,进而在理论指导下设计更高性能的全新boosting算法。计划建立boosting分类器基于Emargin的泛化错误率上界、匹配下界、以及大样本相合性。设计以优化Emargin为目标的boosting算法。此外,还预计将新算法应用到人脸检测与识别系统。本项目预期在国际权威学术期刊、会议上发表论文8-10篇,并培养3-5名研究生。
结项摘要
Boosting是机器学习领域性能最好的算法之一,已经被广泛用于多个应用领域。Boosting中最具代表性的算法是adaboost。该算法利用一个给定的基本分类算法,通过对训练数据集相继赋予不同的权重分布,学习出一系列基本分类器,而后将这些基本分类器组合起来作为最终的分类器。关于adaboost有两个核心问题:1)为什么adaboost会有如此优异的性能? 2)实验中观察到adaboost在很多情况下不发生过拟和,这似乎与Occam剃刀原则完全相悖,理论上如何解释? ..本项目针对上述两个boosting基本问题进行了较为系统的理论研究。在Schapire, Breiman等人工作的基础上,提出了Equilibrium margin理论。项目核心成果在于,我们证明了一个组合分类器的margin上界。该上界中的核心量是我们定义的一个新的概念,称作Equilibrium-margin,简称Emargin。我们证明了Emargin理论一致优于Breiman的最小margin理论和Schapire的margin distribution理论。这一结果对margin理论的争论给出了解释。此外,我们根据Emargin理论,设计了新的boosting算法,取得了较好的效果。..在上述工作基础上,我们对一般线性分类器的margin理论进行了深入的分析。由Vapnik等人给出的经典margin理论一直认为学习结果的泛化能力只与分类器的margin有关,与数据所在空间维数无关。我们证明了一个新的margin上界,该上界不仅与margin有关,而且与空间维数有关。我们同时证明,新的维数相关margin上界一致优于经典的维数无关上界。新结论说明泛化能力随着空间维数增加变差,并非与维数无关。..此外我们还研究了主动学习理论、排序学习和基于学习的算法博弈论。并将以上理论和算法成果应用于计算机视觉领域的具体问题中,取得了较好的效果。..本项目在包括JMLR, NIPS, COLT, IJCAI等机器学习领域权威学术刊物、会议上发表高水平论文10篇。项目负责人在CCML2013做大会特邀报告。本项目还培养6名研究生。
项目成果
期刊论文数量(3)
专著数量(0)
科研奖励数量(0)
会议论文数量(6)
专利数量(0)
Smoothness, Disagreement Coefficient, and the Label Complexity of Agnostic Active Learning
不可知主动学习的平滑度、不一致系数和标签复杂度
- DOI:10.5555/1953048.2021072
- 发表时间:2011-02
- 期刊:Journal of Machine Learning Research
- 影响因子:6
- 作者:Wang, Liwei
- 通讯作者:Wang, Liwei
Further Results on the Margin Explanation of Boosting: New Algorithms and Experiments
Boosting 边际解释的进一步结果:新算法和实验
- DOI:--
- 发表时间:2012
- 期刊:Science China Information Sciences
- 影响因子:--
- 作者:Liwei Wang;Xiaocheng Deng;Zhaoxiang Jing;Jufu Feng
- 通讯作者:Jufu Feng
A Refined Margin Analysis for Boosting Algorithms via Equilibrium Margin
通过均衡保证金提升算法的精细保证金分析
- DOI:10.5555/1953048.2021058
- 发表时间:2011-02
- 期刊:Journal of Machine Learning Research
- 影响因子:6
- 作者:Wang, Liwei;Sugiyama, Masashi;Jing, Zhaoxiang;Yang, Cheng;Zhou, Zhi-Hua;Feng, Jufu
- 通讯作者:Feng, Jufu
数据更新时间:{{ journalArticles.updateTime }}
{{
item.title }}
{{ item.translation_title }}
- DOI:{{ item.doi || "--"}}
- 发表时间:{{ item.publish_year || "--" }}
- 期刊:{{ item.journal_name }}
- 影响因子:{{ item.factor || "--"}}
- 作者:{{ item.authors }}
- 通讯作者:{{ item.author }}
数据更新时间:{{ journalArticles.updateTime }}
{{ item.title }}
- 作者:{{ item.authors }}
数据更新时间:{{ monograph.updateTime }}
{{ item.title }}
- 作者:{{ item.authors }}
数据更新时间:{{ sciAawards.updateTime }}
{{ item.title }}
- 作者:{{ item.authors }}
数据更新时间:{{ conferencePapers.updateTime }}
{{ item.title }}
- 作者:{{ item.authors }}
数据更新时间:{{ patent.updateTime }}
其他文献
卖空与创新:A股公司融券试点的证据
- DOI:--
- 发表时间:2020
- 期刊:会计研究
- 影响因子:--
- 作者:李春涛;许红梅;王立威;周鹏
- 通讯作者:周鹏
其他文献
{{
item.title }}
{{ item.translation_title }}
- DOI:{{ item.doi || "--" }}
- 发表时间:{{ item.publish_year || "--"}}
- 期刊:{{ item.journal_name }}
- 影响因子:{{ item.factor || "--" }}
- 作者:{{ item.authors }}
- 通讯作者:{{ item.author }}
内容获取失败,请点击重试
查看分析示例
此项目为已结题,我已根据课题信息分析并撰写以下内容,帮您拓宽课题思路:
AI项目摘要
AI项目思路
AI技术路线图
请为本次AI项目解读的内容对您的实用性打分
非常不实用
非常实用
1
2
3
4
5
6
7
8
9
10
您认为此功能如何分析更能满足您的需求,请填写您的反馈:
王立威的其他基金
深度学习泛化与表示理论研究
- 批准号:
- 批准年份:2022
- 资助金额:54 万元
- 项目类别:面上项目
深度神经网络的margin理论
- 批准号:61573026
- 批准年份:2015
- 资助金额:64.0 万元
- 项目类别:面上项目
基于相异度的模式识别理论与算法研究
- 批准号:60775005
- 批准年份:2007
- 资助金额:34.0 万元
- 项目类别:面上项目
相似国自然基金
{{ item.name }}
- 批准号:{{ item.ratify_no }}
- 批准年份:{{ item.approval_year }}
- 资助金额:{{ item.support_num }}
- 项目类别:{{ item.project_type }}
相似海外基金
{{
item.name }}
{{ item.translate_name }}
- 批准号:{{ item.ratify_no }}
- 财政年份:{{ item.approval_year }}
- 资助金额:{{ item.support_num }}
- 项目类别:{{ item.project_type }}