EAGER:AI-DCL:Capture, Explain and Negotiate the Inherent Trade-offs in Machine Learning Algorithms

EAGER:AI-DCL:捕获、解释和协商机器学习算法中固有的权衡

基本信息

  • 批准号:
    1927166
  • 负责人:
  • 金额:
    $ 29.57万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Standard Grant
  • 财政年份:
    2019
  • 资助国家:
    美国
  • 起止时间:
    2019-10-01 至 2019-12-31
  • 项目状态:
    已结题

项目摘要

An outstanding issue with machine learning based decision-making algorithms is the inherent trade-offs between different system criteria. There is an emerging body of literature demonstrating trade-offs between fairness and accuracy, and between different fairness notions. By improving fairness, overall accuracy might decrease. Furthermore, different fairness notions are not compatible with each other: well-established results show that common statistical fairness notions are often mutually exclusive. Accurate understanding of such trade-offs is critical for stakeholders and practitioners to appropriately use these machine learning methods. The focus of this project is to take an interdisciplinary approach to study, explain, and address the inherent trade-offs between different system criteria in machine learning-based decision-making.The researchers will develop methods to capture trade-offs between different system criteria in machine learning algorithms. They will develop visualizations and interactive interfaces to explain the trade-offs between the models to the stakeholders. Finally, the project team will explore social and technical innovations that let stakeholders navigate and negotiate the fundamental trade-offs between different system criteria. The project will disseminate the new knowledge in part through a MOOC offering.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
基于机器学习的决策算法的一个杰出问题是不同系统标准之间的固有权衡。有一大批文学体系,表明公平与准确性之间以及不同的公平概念之间的权衡。通过提高公平性,总体准确性可能会降低。此外,不同的公平概念彼此不兼容:成熟的结果表明,常见的统计公平概念通常是相互排斥的。对这种权衡的准确理解对于利益相关者和从业者适当使用这些机器学习方法至关重要。该项目的重点是采用跨学科的方法来研究,解释和解决基于机器学习的决策中不同系统标准之间的固有权衡。研究人员将开发方法来捕获机器学习算法中不同系统标准之间的权衡。他们将开发可视化和交互式接口,以向利益相关者解释模型之间的权衡。最后,项目团队将探索社会和技术创新,使利益相关者在不同系统标准之间进行基本权衡。 该项目将部分通过MOOC发行来传播新知识。该奖项反映了NSF的法定任务,并被认为是值得通过基金会的知识分子优点和更广泛的影响评估标准来评估值得支持的。

项目成果

期刊论文数量(0)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Haiyi Zhu其他文献

Effects of peer feedback on contribution: a field experiment in Wikipedia
同行反馈对贡献的影响:维基百科的现场实验
Designing Interfaces to Help Stakeholders Comprehend, Navigate, and Manage Algorithmic Trade-Offs
设计界面以帮助利益相关者理解、导航和管理算法权衡
  • DOI:
  • 发表时间:
    2019
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Bowen Yu;Ye Yuan;L. Terveen;Zhiwei Steven Wu;Haiyi Zhu
  • 通讯作者:
    Haiyi Zhu
Value-sensitive algorithm design: method, case study, and lessons
Exploring Antecedents and Consequences of Toxicity in Online Discussions
在在线讨论中探索毒性的前因和后果
Value-Sensitive Algorithm Design
价值敏感的算法设计
  • DOI:
  • 发表时间:
    2018
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Haiyi Zhu;Bowen Yu;Aaron L Halfaker;L. Terveen
  • 通讯作者:
    L. Terveen

Haiyi Zhu的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Haiyi Zhu', 18)}}的其他基金

SCC-IRG Track 1: Empowering and Enhancing Workers Through Building A Community-Centered Gig Economy
SCC-IRG 第 1 轨道:通过建立以社区为中心的零工经济,赋予工人权力并增强工人的能力
  • 批准号:
    1952085
  • 财政年份:
    2020
  • 资助金额:
    $ 29.57万
  • 项目类别:
    Standard Grant
CHS:Small: Incorporating and Balancing Stakeholder Values in Algorithm Design
CHS:Small:在算法设计中纳入并平衡利益相关者价值观
  • 批准号:
    2001851
  • 财政年份:
    2019
  • 资助金额:
    $ 29.57万
  • 项目类别:
    Standard Grant
EAGER:AI-DCL:Capture, Explain and Negotiate the Inherent Trade-offs in Machine Learning Algorithms
EAGER:AI-DCL:捕获、解释和协商机器学习算法中固有的权衡
  • 批准号:
    2000782
  • 财政年份:
    2019
  • 资助金额:
    $ 29.57万
  • 项目类别:
    Standard Grant
CHS:Small: Incorporating and Balancing Stakeholder Values in Algorithm Design
CHS:Small:在算法设计中纳入并平衡利益相关者价值观
  • 批准号:
    1908688
  • 财政年份:
    2019
  • 资助金额:
    $ 29.57万
  • 项目类别:
    Standard Grant
CRII: CHS: Sharing Over Direct and Extended Social Networks - Towards A Trustworthy and Efficient Sharing Economy
CRII:CHS:通过直接和扩展社交网络进行共享 - 迈向值得信赖和高效的共享经济
  • 批准号:
    1566149
  • 财政年份:
    2016
  • 资助金额:
    $ 29.57万
  • 项目类别:
    Continuing Grant

相似国自然基金

AI-2受体甲基趋化蛋白介导牛月形单胞菌对瘤胃碳水化合物趋化性的作用机制
  • 批准号:
    32302685
  • 批准年份:
    2023
  • 资助金额:
    30 万元
  • 项目类别:
    青年科学基金项目
基于国产AI芯片的自动布局布线优化算法研究
  • 批准号:
    62306286
  • 批准年份:
    2023
  • 资助金额:
    30 万元
  • 项目类别:
    青年科学基金项目
人工智能驱动的营销模式和消费者行为研究
  • 批准号:
    72332006
  • 批准年份:
    2023
  • 资助金额:
    165 万元
  • 项目类别:
    重点项目
基于“人工智能算法+高精度遥感数据”的棉花表型信息识别及解析
  • 批准号:
    32360436
  • 批准年份:
    2023
  • 资助金额:
    32 万元
  • 项目类别:
    地区科学基金项目
巴氏杀菌乳中金黄色葡萄球菌和肠毒素A风险预测和溯源的人工智能模型构建研究
  • 批准号:
    32302241
  • 批准年份:
    2023
  • 资助金额:
    30 万元
  • 项目类别:
    青年科学基金项目

相似海外基金

Education DCL: EAGER: Advancing Secure Coding Education: Empowering Students to Safely Utilize AI-powered Coding Assistant Tools
教育 DCL:EAGER:推进安全编码教育:使学生能够安全地利用人工智能驱动的编码辅助工具
  • 批准号:
    2335798
  • 财政年份:
    2023
  • 资助金额:
    $ 29.57万
  • 项目类别:
    Standard Grant
Education DCL: EAGER: Generative AI-based Personalized Cybersecurity Tutor for Fourth Industrial Revolution
教育 DCL:EAGER:第四次工业革命的基于生成人工智能的个性化网络安全导师
  • 批准号:
    2335046
  • 财政年份:
    2023
  • 资助金额:
    $ 29.57万
  • 项目类别:
    Standard Grant
Education DCL: EAGER: Developing Experiential Cybersecurity and Privacy Training for AI Practitioners
教育 DCL:EAGER:为人工智能从业者开发体验式网络安全和隐私培训
  • 批准号:
    2335700
  • 财政年份:
    2023
  • 资助金额:
    $ 29.57万
  • 项目类别:
    Standard Grant
AI-DCL: EAGER: Explanations through Diverse, Feasible, and Interactive Counterfactuals
AI-DCL:EAGER:通过多样化、可行和交互式反事实进行解释
  • 批准号:
    2125116
  • 财政年份:
    2021
  • 资助金额:
    $ 29.57万
  • 项目类别:
    Standard Grant
EAGER: AI-DCL: Exploratory research on the use of AI at the intersection of homelessness and child maltreatment
EAGER:AI-DCL:关于在无家可归和虐待儿童问题上使用人工智能的探索性研究
  • 批准号:
    2127754
  • 财政年份:
    2021
  • 资助金额:
    $ 29.57万
  • 项目类别:
    Standard Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了