RI: Small: Non-parametric Machine Learning in the Age of Deep and High-Dimensional Models
RI:小:深度和高维模型时代的非参数机器学习
基本信息
- 批准号:1909816
- 负责人:
- 金额:$ 44.99万
- 依托单位:
- 依托单位国家:美国
- 项目类别:Standard Grant
- 财政年份:2019
- 资助国家:美国
- 起止时间:2019-10-01 至 2023-09-30
- 项目状态:已结题
- 来源:
- 关键词:
项目摘要
The empirical successes of machine learning in recent years are due, in a large part, to models that are highly flexible (such as deep neural networks), which can tackle complex tasks (such as predicting whether a medical image is indicative of cancer). These models learn from large datasets and require a lot of empirical engineering expertise. The current belief is that a better understanding of this engineering practice might help us gain insights into the relationship between the models and the sample size of the datasets. Taking inspirations for deep neural networks, the research in this project formulates broader classes of models and algorithms that learn from fewer samples but do not require complex engineering expertise. The research enables learning highly flexible models in a more rigorous and reproducible manner; consequently, the users may have greater trust in the resulting applications.More specifically, the research in this project leverages insights from deep and high-dimensional models to develop a new class of non-parametric prediction as well as density functions. The project develops novel extensions of parametric structural sparsity constraints to the non-parametric estimation setting. By treating the multivariate prediction functions as functional generalizations of tensors, the project develops novel extensions of structural sparsity constraints designed for parametric model parameters to novel counterparts for prediction functions. The project also investigates a "destructive learning" approach to learning deep compositional models, which have a similar compositional form to deep neural network models. The project develops stage-wise algorithms to learn such deep compositional models, similar to boosting, by iteratively finding and destroying information in the data using well-studied shallow learning algorithms in each stage.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
近年来,机器学习的经验成功在很大程度上是由于高度灵活的模型(例如深神经网络),这些模型可以解决复杂的任务(例如预测医学图像是否表示癌症)。这些模型从大型数据集中学习,并需要大量的经验工程专业知识。当前的信念是,更好地了解这种工程实践可能有助于我们深入了解模型与数据集样本之间的关系。该项目的研究汲取了深层神经网络的灵感,为更少的模型和算法制定了更广泛的模型和算法,这些模型和算法从较少的样本中学习但不需要复杂的工程专业知识。该研究使学习高度灵活的模型以更严格和可重复的方式学习。因此,用户可能对由此产生的应用程序有更大的信任。更具体地说,该项目的研究利用了深层和高维模型的见解来开发一类新的非参数预测以及密度功能。该项目将参数结构稀疏性约束的新型扩展扩展到非参数估计设置。通过将多元预测视为张量的功能概括,该项目开发了针对参数模型参数设计的结构稀疏性约束的新型扩展,以实现用于预测功能的新型对应物。该项目还研究了一种学习深层组成模型的“破坏性学习”方法,该方法具有与深神经网络模型相似的组成形式。该项目通过迭代地查找和破坏数据中的信息,在每个阶段都在数据中找到和破坏数据中的信息,从而开发了阶段的算法,以学习和破坏数据中的信息。该奖项反映了NSF的法定任务,并通过使用基金会的知识分子优点和广泛的影响来评估NSF的法定任务。
项目成果
期刊论文数量(12)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
IDENTIFIABILITY OF NONPARAMETRIC MIXTURE MODELS AND BAYES OPTIMAL CLUSTERING
- DOI:10.1214/19-aos1887
- 发表时间:2020-08-01
- 期刊:
- 影响因子:4.5
- 作者:Aragam, Bryon;Dan, Chen;Ravikumar, Pradeep
- 通讯作者:Ravikumar, Pradeep
Identifiability of deep generative models without auxiliary information
- DOI:
- 发表时间:2022-06
- 期刊:
- 影响因子:0
- 作者:Bohdan Kivva;Goutham Rajendran;Pradeep Ravikumar;Bryon Aragam
- 通讯作者:Bohdan Kivva;Goutham Rajendran;Pradeep Ravikumar;Bryon Aragam
Boosted CVaR Classification
- DOI:
- 发表时间:2021-10
- 期刊:
- 影响因子:0
- 作者:Runtian Zhai;Chen Dan;A. Suggala;Zico Kolter;Pradeep Ravikumar
- 通讯作者:Runtian Zhai;Chen Dan;A. Suggala;Zico Kolter;Pradeep Ravikumar
Learning Linear Causal Representations from Interventions under General Nonlinear Mixing
- DOI:10.48550/arxiv.2306.02235
- 发表时间:2023-06
- 期刊:
- 影响因子:0
- 作者:Simon Buchholz;Goutham Rajendran;Elan Rosenfeld;Bryon Aragam;B. Scholkopf;Pradeep Ravikumar
- 通讯作者:Simon Buchholz;Goutham Rajendran;Elan Rosenfeld;Bryon Aragam;B. Scholkopf;Pradeep Ravikumar
Learning Sparse Nonparametric DAGs
- DOI:
- 发表时间:2019-09
- 期刊:
- 影响因子:0
- 作者:Xun Zheng;Chen Dan;Bryon Aragam;Pradeep Ravikumar;E. Xing
- 通讯作者:Xun Zheng;Chen Dan;Bryon Aragam;Pradeep Ravikumar;E. Xing
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
数据更新时间:{{ journalArticles.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ monograph.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ sciAawards.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ conferencePapers.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ patent.updateTime }}
Pradeep Ravikumar其他文献
Ordinal Graphical Models: A Tale of Two Approaches
序数图形模型:两种方法的故事
- DOI:
10.5555/3305890.3306018 - 发表时间:
2017 - 期刊:
- 影响因子:0
- 作者:
A. Suggala;Eunho Yang;Pradeep Ravikumar - 通讯作者:
Pradeep Ravikumar
XMRF: an R package to fit Markov Networks to high-throughput genetics data
XMRF:一个 R 包,用于使马尔可夫网络适应高通量遗传学数据
- DOI:
- 发表时间:
2015 - 期刊:
- 影响因子:0
- 作者:
Ying;Genevera I. Allen;Yulia Baker;Eunho Yang;Pradeep Ravikumar;Zhandong Liu - 通讯作者:
Zhandong Liu
Heavy-tailed Streaming Statistical Estimation
重尾流统计估计
- DOI:
10.48550/arxiv.2108.11483 - 发表时间:
2022 - 期刊:
- 影响因子:0
- 作者:
Che-Ping Tsai;Adarsh Prasad;Sivaraman Balakrishnan;Pradeep Ravikumar - 通讯作者:
Pradeep Ravikumar
Sample based Explanations via Generalized Representers
通过广义代表进行基于样本的解释
- DOI:
10.48550/arxiv.2310.18526 - 发表时间:
2023 - 期刊:
- 影响因子:0
- 作者:
Che;Chih;Pradeep Ravikumar - 通讯作者:
Pradeep Ravikumar
Predicting Growth Conditions from Internal Metabolic Fluxes in an In-Silico Model of E. coli
根据大肠杆菌的计算机模型中的内部代谢通量预测生长条件
- DOI:
- 发表时间:
2014 - 期刊:
- 影响因子:0
- 作者:
V. Sridhara;A. Meyer;Piyush Rai;Jeffrey E. Barrick;Pradeep Ravikumar;D. Segrè;C. Wilke - 通讯作者:
C. Wilke
Pradeep Ravikumar的其他文献
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
{{ truncateString('Pradeep Ravikumar', 18)}}的其他基金
RI: Medium: Foundations of Self-Supervised Learning Through the Lens of Probabilistic Generative Models
RI:媒介:通过概率生成模型的视角进行自我监督学习的基础
- 批准号:
2211907 - 财政年份:2022
- 资助金额:
$ 44.99万 - 项目类别:
Standard Grant
Collaborative Research: RI: Medium: A Rigorous, General Framework for Tractable Learning of Large-Scale DAGs from Data
协作研究:RI:Medium:从数据中轻松学习大规模 DAG 的严格通用框架
- 批准号:
1955532 - 财政年份:2020
- 资助金额:
$ 44.99万 - 项目类别:
Continuing Grant
Collaborative Research: Physics-Based Machine Learning for Sub-Seasonal Climate Forecasting
合作研究:基于物理的机器学习用于次季节气候预测
- 批准号:
1934584 - 财政年份:2019
- 资助金额:
$ 44.99万 - 项目类别:
Continuing Grant
CAREER: A New Neat Framework for Statistical Machine Learning
职业:统计机器学习的新简洁框架
- 批准号:
1661755 - 财政年份:2016
- 资助金额:
$ 44.99万 - 项目类别:
Continuing Grant
BIGDATA: F: DKA: Collaborative Research: High-Dimensional Statistical Machine Learning for Spatio-Temporal Climate Data
BIGDATA:F:DKA:协作研究:时空气候数据的高维统计机器学习
- 批准号:
1664720 - 财政年份:2016
- 资助金额:
$ 44.99万 - 项目类别:
Standard Grant
Collaborative Research: Statistical Methods for Integrated Analysis of High-Throughput Biomedical Data
合作研究:高通量生物医学数据综合分析的统计方法
- 批准号:
1661802 - 财政年份:2016
- 资助金额:
$ 44.99万 - 项目类别:
Continuing Grant
BIGDATA: F: DKA: Collaborative Research: High-Dimensional Statistical Machine Learning for Spatio-Temporal Climate Data
BIGDATA:F:DKA:协作研究:时空气候数据的高维统计机器学习
- 批准号:
1447574 - 财政年份:2014
- 资助金额:
$ 44.99万 - 项目类别:
Standard Grant
Collaborative Research: Statistical Methods for Integrated Analysis of High-Throughput Biomedical Data
合作研究:高通量生物医学数据综合分析的统计方法
- 批准号:
1264033 - 财政年份:2013
- 资助金额:
$ 44.99万 - 项目类别:
Continuing Grant
RI: Small: Collaborative Research: Statistical ranking theory without a canonical loss
RI:小:协作研究:没有典型损失的统计排名理论
- 批准号:
1320894 - 财政年份:2013
- 资助金额:
$ 44.99万 - 项目类别:
Standard Grant
CAREER: A New Neat Framework for Statistical Machine Learning
职业:统计机器学习的新简洁框架
- 批准号:
1149803 - 财政年份:2012
- 资助金额:
$ 44.99万 - 项目类别:
Continuing Grant
相似国自然基金
组蛋白4第12位赖氨酸乳酸化修饰调控非小细胞肺癌顺铂耐药的作用机制研究
- 批准号:82303085
- 批准年份:2023
- 资助金额:30 万元
- 项目类别:青年科学基金项目
CLDN6高表达肿瘤细胞亚群在非小细胞肺癌ICB治疗抗性形成中的作用及机制研究
- 批准号:82373364
- 批准年份:2023
- 资助金额:49 万元
- 项目类别:面上项目
GPC3-CD81通过SHP-2调控肿瘤相关巨噬细胞极化介导非小细胞肺癌免疫放疗抵抗的分子机制研究
- 批准号:82373217
- 批准年份:2023
- 资助金额:49 万元
- 项目类别:面上项目
癌-睾丸蛋白PIWIL4在非小细胞肺癌中参与小RNA生成的机制和生物学功能研究
- 批准号:32371347
- 批准年份:2023
- 资助金额:50 万元
- 项目类别:面上项目
基于NRF2调控KPNB1促进PD-L1核转位介导非小细胞肺癌免疫治疗耐药的机制研究
- 批准号:82303969
- 批准年份:2023
- 资助金额:30 万元
- 项目类别:青年科学基金项目
相似海外基金
NSF-AoF: RI: Small: Safe Reinforcement Learning in Non-Stationary Environments With Fast Adaptation and Disturbance Prediction
NSF-AoF:RI:小型:具有快速适应和干扰预测功能的非平稳环境中的安全强化学习
- 批准号:
2133656 - 财政年份:2021
- 资助金额:
$ 44.99万 - 项目类别:
Standard Grant
RI: Small: Understanding Subtle Non-Social Facial Expressivity to Boost Learning and Computer Interaction
RI:小:理解微妙的非社交面部表情以促进学习和计算机交互
- 批准号:
1911197 - 财政年份:2019
- 资助金额:
$ 44.99万 - 项目类别:
Standard Grant
RI: Small: ConnotationNet: Modeling Non-Literal Meaning in Context
RI:小:ConnotationNet:在上下文中建模非字面意义
- 批准号:
1714566 - 财政年份:2017
- 资助金额:
$ 44.99万 - 项目类别:
Standard Grant
RI: Small: Collaborative Research: On-Line Learning Algorithms for Path Experts with Non-Additive Losses
RI:小型:协作研究:具有非加性损失的路径专家的在线学习算法
- 批准号:
1618662 - 财政年份:2016
- 资助金额:
$ 44.99万 - 项目类别:
Standard Grant
RI: Small: Collaborative Research: On-Line Learning Algorithms for Path Experts with Non-Additive Losses
RI:小型:协作研究:具有非加性损失的路径专家的在线学习算法
- 批准号:
1619271 - 财政年份:2016
- 资助金额:
$ 44.99万 - 项目类别:
Standard Grant