Energetic Variational Inference: Foundations, Algorithms, and Applications
能量变分推理:基础、算法和应用
基本信息
- 批准号:2153029
- 负责人:
- 金额:$ 30万
- 依托单位:
- 依托单位国家:美国
- 项目类别:Continuing Grant
- 财政年份:2022
- 资助国家:美国
- 起止时间:2022-07-01 至 2025-06-30
- 项目状态:未结题
- 来源:
- 关键词:
项目摘要
Variational Inference is a powerful tool used to boost efficiency and flexibility in machine learning and artificial intelligence algorithms, particularly those based on large amounts of data. In this project, the investigators plan to create a unified and systematic framework for variational inference methods, making two key contributions. First, the investigators will establish the theoretical foundations for the proposed framework, which will support and justify using existing and new variational inference algorithms in machine learning applications. Second, the investigators will provide a systemic procedure to create new variational inference algorithms and apply them to emerging machine learning problems. In addition to these new scientific developments, the investigators will create new courses and workshops on machine learning, recruit both undergraduate and graduate students for summer, project-based research programs, and provide mentorship to local high school students through hands-on machine learning training programs. Collaborations are planned with industrial data science partners to apply these new algorithms in practice and to train the workforce with the start-of-the-art machine learning tools.The proposed "Energetic Variational Inference" framework is based on an energetic variational approach, which has been successfully used to study complicated non-equilibrium systems in physics and biology. The investigators will provide a blueprint for generating new algorithms by introducing various options for the four essential components of the proposed framework: the divergence functional, the dissipation functional, the representation of the probability density, and the temporal discretization. The investigators will study convergence in the continuous formulation as well as estimate the error bounds after temporal discretization of the underlying continuous dynamic system. More importantly, these theoretical results can be applied or extended to other flow-based variational inference approaches. These methods will be applied to problems in supervised learning, density estimation, and generative learning. Additional novel applications in machine learning, statistics, and statistical physics will also be developed. The algorithms will be packaged into open-source software for public use.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
变分推断是一种强大的工具,用于提高机器学习和人工智能算法的效率和灵活性,尤其是基于大量数据的工具。在这个项目中,调查人员计划为各种推理方法创建一个统一的系统框架,从而做出了两个关键的贡献。首先,调查人员将建立针对拟议框架的理论基础,该框架将使用机器学习应用程序中现有和新的变异推理算法来支持和证明合理性。其次,研究人员将提供一个系统的程序,以创建新的变分推理算法并将其应用于新兴的机器学习问题。除了这些新的科学发展外,研究人员还将创建有关机器学习的新课程和讲习班,招募夏季的本科生和研究生,基于项目的研究计划,并通过动手的机器学习培训计划向当地高中生提供指导。计划与工业数据科学合作伙伴进行合作,以在实践中应用这些新算法,并使用最初的机器学习工具来训练劳动力。拟议的“能量变异推理”框架是基于一种能量的变异方法,该方法已成功地用于研究物理学中的非平衡系统。 研究人员将通过为提出的框架的四个基本组成部分引入各种选项来提供用于生成新算法的蓝图:差异功能,耗散功能,概率密度的表示和时间离散化。研究人员将研究连续公式中的收敛,并估计基础连续动态系统时间离散后的误差界限。更重要的是,这些理论结果可以应用或扩展到其他基于流动的变异推理方法。这些方法将应用于监督学习,密度估计和生成学习中的问题。还将开发机器学习,统计和统计物理学中的其他新颖应用。该算法将被包装到开源软件中,以供公众使用。该奖项反映了NSF的法定任务,并使用基金会的知识分子优点和更广泛的影响审查标准,被认为值得通过评估来获得支持。
项目成果
期刊论文数量(2)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
Bayesian D-Optimal Design of Experiments with Quantitative and Qualitative Responses
具有定量和定性响应的贝叶斯 D 优化实验设计
- DOI:10.51387/23-nejsds30
- 发表时间:2023
- 期刊:
- 影响因子:0
- 作者:Kang, Lulu;Deng, Xinwei;Jin, Ran
- 通讯作者:Jin, Ran
Sampling constrained continuous probability distributions: A review
- DOI:10.1002/wics.1608
- 发表时间:2023-02-18
- 期刊:
- 影响因子:3.2
- 作者:Lan,Shiwei;Kang,Lulu
- 通讯作者:Kang,Lulu
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
数据更新时间:{{ journalArticles.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ monograph.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ sciAawards.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ conferencePapers.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ patent.updateTime }}
Lulu Kang其他文献
A Discrepancy-Based Design for A/B Testing Experiments
基于差异的 A/B 测试实验设计
- DOI:
- 发表时间:
2019 - 期刊:
- 影响因子:0
- 作者:
Yiou Li;Xiao Huang;Lulu Kang - 通讯作者:
Lulu Kang
Learned mappings for targeted free energy perturbation between peptide conformations.
学习肽构象之间有针对性的自由能扰动的映射。
- DOI:
- 发表时间:
2023 - 期刊:
- 影响因子:4.4
- 作者:
S. Y. Willow;Lulu Kang;David D. L. Minh - 通讯作者:
David D. L. Minh
Stochastic coordinate-exchange optimal designs with complex constraints
具有复杂约束的随机坐标交换优化设计
- DOI:
10.1080/08982112.2018.1508695 - 发表时间:
2018 - 期刊:
- 影响因子:2
- 作者:
Lulu Kang - 通讯作者:
Lulu Kang
Probing Angle-Dependent Interlayer Coupling in Twisted Bilayer WS2
探测扭曲双层 WS2 中角度相关的层间耦合
- DOI:
10.1021/acs.jpcc.9b08602 - 发表时间:
2019-11 - 期刊:
- 影响因子:3.7
- 作者:
Wei Yan;Lan Meng;Zhaoshun Meng;Yakui Weng;Lulu Kang;Xing'ao Li - 通讯作者:
Xing'ao Li
D-Optimal Design for Network A/B Testing
网络 A/B 测试的 D 优化设计
- DOI:
10.1007/s42519-019-0058-3 - 发表时间:
2019 - 期刊:
- 影响因子:0.6
- 作者:
V. Pokhilko;Qiong Zhang;Lulu Kang;D'Arcy Mays - 通讯作者:
D'Arcy Mays
Lulu Kang的其他文献
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
{{ truncateString('Lulu Kang', 18)}}的其他基金
Statistical Design, Sampling, and Analysis for Large Scale Experiments
大规模实验的统计设计、采样和分析
- 批准号:
1916467 - 财政年份:2019
- 资助金额:
$ 30万 - 项目类别:
Standard Grant
Collaborative Research: Experimental Design and Analysis of Quantitative-Qualitative Responses in Manufacturing and Biomedical Systems
协作研究:制造和生物医学系统中定量-定性响应的实验设计和分析
- 批准号:
1435902 - 财政年份:2014
- 资助金额:
$ 30万 - 项目类别:
Standard Grant
相似国自然基金
贝叶斯框架下基于变分推理的全波形反演速度建模及不确定性评价方法研究
- 批准号:
- 批准年份:2022
- 资助金额:56 万元
- 项目类别:面上项目
贝叶斯框架下基于变分推理的全波形反演速度建模及不确定性评价方法研究
- 批准号:42274143
- 批准年份:2022
- 资助金额:56.00 万元
- 项目类别:面上项目
Wasserstein变分推理关键问题研究
- 批准号:62006094
- 批准年份:2020
- 资助金额:24 万元
- 项目类别:青年科学基金项目
高精度稳定的黑盒变分推理关键问题研究
- 批准号:61876071
- 批准年份:2018
- 资助金额:63.0 万元
- 项目类别:面上项目
面向宽带信号的新型贝叶斯稀疏重构理论与方法研究
- 批准号:61871421
- 批准年份:2018
- 资助金额:61.0 万元
- 项目类别:面上项目
相似海外基金
Variational Inference for Intractable and Misspecified State Space Models
棘手且错误指定的状态空间模型的变分推理
- 批准号:
DE230100029 - 财政年份:2023
- 资助金额:
$ 30万 - 项目类别:
Discovery Early Career Researcher Award
CAREER: Statistical Inference in High Dimensions using Variational Approximations
职业:使用变分近似进行高维统计推断
- 批准号:
2239234 - 财政年份:2023
- 资助金额:
$ 30万 - 项目类别:
Continuing Grant
植物-微生物叢相互作用のマルチオミクス階層モデリングとその高速アルゴリズムの開発
植物-微生物群相互作用的多组学分层建模和高速算法的开发
- 批准号:
22KJ0656 - 财政年份:2023
- 资助金额:
$ 30万 - 项目类别:
Grant-in-Aid for JSPS Fellows
Mean Field Asymptotics in Statistical Inference: Variational Approach, Multiple Testing, and Predictive Inference
统计推断中的平均场渐进:变分方法、多重测试和预测推断
- 批准号:
2210827 - 财政年份:2022
- 资助金额:
$ 30万 - 项目类别:
Continuing Grant
Collaborative Research: Theoretical and Algorithmic Foundations of Variational Bayesian Inference
合作研究:变分贝叶斯推理的理论和算法基础
- 批准号:
2210717 - 财政年份:2022
- 资助金额:
$ 30万 - 项目类别:
Standard Grant