CAREER: New Frontiers of Private Learning and Synthetic Data

职业:私人学习和合成数据的新领域

基本信息

  • 批准号:
    2339775
  • 负责人:
  • 金额:
    $ 68万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Continuing Grant
  • 财政年份:
    2024
  • 资助国家:
    美国
  • 起止时间:
    2024-03-01 至 2029-02-28
  • 项目状态:
    未结题

项目摘要

The vast collection of detailed personal data offers significant benefits to researchers, companies, and policymakers. To protect individual privacy, many organizations, both from the public and private sectors, have adopted differential privacy as a rigorous privacy measure. However, recent deployments of differential privacy have revealed key research gaps. First, much of the existing theoretical work in differential privacy focuses on worst-case analyses, which often lead to overly pessimistic results and fail to inform algorithm design in practice. Despite recent advancements, differentially private algorithms for machine learning and data sharing are still not widely adopted technologies. Lastly, the lack of comprehensive tools for privacy risk assessment makes it difficult for practitioners to evaluate the effectiveness of differential privacy and to determine appropriate privacy risk parameters. This project aims to address these challenges in differential privacy by expanding the repertoire of privacy-preserving algorithms and developing auditing mechanisms to assess the privacy protection these algorithms provide.The research focuses on two fundamental and closely related problems: private learning and private synthetic data. In private learning, the goal is to learn accurate machine learning models using sensitive data with differential privacy guarantees. In private synthetic data, the goal is to differentially privately generate a synthetic dataset that preserves important statistical trends of the sensitive dataset. The project advances the frontiers of these two problems with three research thrusts. The first thrust develops a theoretical framework that goes beyond pessimistic worst-case analyses to better capture practical scenarios and guide algorithm design. The second thrust designs practical algorithms that are informed by theoretical principles and empirical structures of the problems in practice. The third focuses on privacy attacks and auditing mechanisms that evaluate the privacy risks of learning and synthetic data algorithms. The project also includes a comprehensive educational and outreach program, providing research opportunities for students at different educational levels and developing new courses and educational materials.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
大量详细的个人数据收集为研究人员,公司和决策者提供了重大好处。为了保护个人隐私,许多组织免受公共部门和私营部门的侵害,都采用了不同的隐私作为严格的隐私措施。但是,差异隐私的最新部署揭示了关键的研究差距。首先,差异隐私中的许多现有理论工作都集中在最坏的分析上,这通常会导致过度悲观的结果,并且在实践中未能为算法设计提供信息。尽管最近进步,但用于机器学习和数据共享的私人算法仍未被广泛采用。最后,缺乏用于隐私风险评估的全面工具使从业者很难评估差异隐私的有效性并确定适当的隐私风险参数。 该项目旨在通过扩大保护隐私算法的曲目并开发审计机制来评估这些算法提供的隐私保护,以应对差异隐私的这些挑战。研究侧重于两个基本和紧密相关的问题:私人学习和私人综合数据。在私人学习中,目标是使用具有不同隐私保证的敏感数据来学习准确的机器学习模型。在私人合成数据中,目标是私密地生成一个合成数据集,该数据集保留了敏感数据集的重要统计趋势。该项目通过三个研究推力来推动这两个问题的前沿。第一个推力发展了一个理论框架,该框架超出了悲观的最坏情况分析,可以更好地捕获实际场景和指导算法设计。第二个推力设计实践算法是由实践中问题的理论原理和经验结构所告知的。第三个重点是评估学习和合成数据算法的隐私风险的隐私攻击和审计机制。该项目还包括一项全面的教育和外展计划,为不同教育水平的学生提供研究机会,并开发新的课程和教育材料。该奖项反映了NSF的法定任务,并被认为是值得通过基金会的知识分子的评估和更广泛的影响来通过评估来支持的。

项目成果

期刊论文数量(0)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Zhiwei Steven Wu其他文献

Provable Multi-Party Reinforcement Learning with Diverse Human Feedback
可证明的多方强化学习与不同的人类反馈
  • DOI:
    10.48550/arxiv.2403.05006
  • 发表时间:
    2024
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Huiying Zhong;Zhun Deng;Weijie J. Su;Zhiwei Steven Wu;Linjun Zhang
  • 通讯作者:
    Linjun Zhang
Inducing Approximately Optimal Flow Using Truthful Mediators
使用真实的中介者诱导近似最佳的流动
Logarithmic Query Complexity for Approximate Nash Computation in Large Games
大型游戏中近似纳什计算的对数查询复杂度
  • DOI:
  • 发表时间:
    2016
  • 期刊:
  • 影响因子:
    0.5
  • 作者:
    P. Goldberg;Francisco Javier Marmolejo;Zhiwei Steven Wu
  • 通讯作者:
    Zhiwei Steven Wu
Competing Bandits: The Perils of Exploration Under Competition
强盗竞争:竞争中探索的危险
  • DOI:
  • 发表时间:
    2019
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Guy Aridor;Y. Mansour;Aleksandrs Slivkins;Zhiwei Steven Wu
  • 通讯作者:
    Zhiwei Steven Wu
The Externalities of Exploration and How Data Diversity Helps Exploitation
探索的外部性以及数据多样性如何帮助开发

Zhiwei Steven Wu的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Zhiwei Steven Wu', 18)}}的其他基金

Collaborative Research: SaTC: CORE: Medium: Private Model Personalization
协作研究:SaTC:核心:媒介:私人模型个性化
  • 批准号:
    2232693
  • 财政年份:
    2023
  • 资助金额:
    $ 68万
  • 项目类别:
    Standard Grant
Collaborative Research: SaTC: CORE: Small: Foundations for the Next Generation of Private Learning Systems
协作研究:SaTC:核心:小型:下一代私人学习系统的基础
  • 批准号:
    2120611
  • 财政年份:
    2021
  • 资助金额:
    $ 68万
  • 项目类别:
    Standard Grant
FAI: Advancing Fairness in AI with Human-Algorithm Collaborations
FAI:通过人类算法合作促进人工智能的公平性
  • 批准号:
    2125692
  • 财政年份:
    2020
  • 资助金额:
    $ 68万
  • 项目类别:
    Standard Grant
FAI: Advancing Fairness in AI with Human-Algorithm Collaborations
FAI:通过人类算法合作促进人工智能的公平性
  • 批准号:
    1939606
  • 财政年份:
    2020
  • 资助金额:
    $ 68万
  • 项目类别:
    Standard Grant

相似国自然基金

新骨架紫杉烷二萜baccataxane的化学合成、衍生化和降糖活性研究
  • 批准号:
    82373758
  • 批准年份:
    2023
  • 资助金额:
    49 万元
  • 项目类别:
    面上项目
老年重症新冠患者体内炎性细胞的特点、免疫致病机制及临床转归的研究
  • 批准号:
    82370019
  • 批准年份:
    2023
  • 资助金额:
    65 万元
  • 项目类别:
    面上项目
在幼年型粒单核细胞白血病中鉴定CD69作为其白血病干细胞新表面标记的实验研究
  • 批准号:
    82370146
  • 批准年份:
    2023
  • 资助金额:
    49 万元
  • 项目类别:
    面上项目
基于磁共振APT成像的乳腺癌新辅助治疗敏感性预测研究
  • 批准号:
    82302153
  • 批准年份:
    2023
  • 资助金额:
    30 万元
  • 项目类别:
    青年科学基金项目
新辅助化疗后CXCL12+CAF诱导胰腺癌三级淋巴结构表型特征与空间定位的分子机制研究
  • 批准号:
    82373296
  • 批准年份:
    2023
  • 资助金额:
    49 万元
  • 项目类别:
    面上项目

相似海外基金

CAREER: New Frontiers in Continuous-time Open Quantum Systems
职业:连续时间开放量子系统的新领域
  • 批准号:
    2238766
  • 财政年份:
    2023
  • 资助金额:
    $ 68万
  • 项目类别:
    Continuing Grant
CAREER: New Frontiers in Graph Generation
职业:图生成的新领域
  • 批准号:
    2239869
  • 财政年份:
    2023
  • 资助金额:
    $ 68万
  • 项目类别:
    Continuing Grant
CAREER: New Frontiers in the Dynamics of Topological Solitons
职业:拓扑孤子动力学的新领域
  • 批准号:
    2235233
  • 财政年份:
    2023
  • 资助金额:
    $ 68万
  • 项目类别:
    Continuing Grant
CAREER: New Frontiers in Bayesian Deep Learning
职业:贝叶斯深度学习的新领域
  • 批准号:
    2145492
  • 财政年份:
    2022
  • 资助金额:
    $ 68万
  • 项目类别:
    Continuing Grant
CAREER: New Frontiers in Quantum Protocols, Operator Algebras, and Property Testing
职业:量子协议、算子代数和属性测试的新领域
  • 批准号:
    2144219
  • 财政年份:
    2022
  • 资助金额:
    $ 68万
  • 项目类别:
    Continuing Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了