SHF: Small: Automatic Qualitative and Quantitative Verification of CUDA Code

SHF:Small:CUDA代码的自动定性和定量验证

基本信息

  • 批准号:
    2007784
  • 负责人:
  • 金额:
    $ 50万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Standard Grant
  • 财政年份:
    2020
  • 资助国家:
    美国
  • 起止时间:
    2020-10-01 至 2024-09-30
  • 项目状态:
    已结题

项目摘要

General-purpose programming on Graphics Processing Units (GPUs) has become prevalent in fields such as machine learning. As a result, NVIDIA has developed the CUDA (Compute Unified Device Architecture) framework to support programmers in effectively using GPUs by implementing specialized functions, called kernels, in a dialect of C++. However, the unusual executionmodel of CUDA may result in performance anomalies that would be difficult to predict for novice CUDA programmers. The objective of this project is to develop reasoning techniques and automated tools for predicting the resource usage of CUDA kernels. The outcomes of this project will greatly benefit software programmers, including novices, in writing more efficient kernels.The difficulty in analyzing the performance of CUDA, as opposed to other imperative languages, is that the same code runs in parallel on many threads that store independent copies of local program variables. This project is developing novel analyses that can reason about multiple copies of program variables when necessary for precision but elide this information when possible to maintain scalability. Furthermore, the performance of CUDA code crucially depends upon its ability to hide latency of, for example, memory operations, by quickly switching among many threads. Reasoning precisely about execution times of CUDA kernels therefore requires reasoning about the latency of such operations and the behavior of the GPU's thread scheduler. The tools and analyses developed in this project can open the emerging field of General-Purpose GPU programming to a wider array of developers and improve the quality and efficiency of code in several important domains of computing.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
图形处理单元(GPU)上的通用编程在机器学习等领域已经普遍存在。结果,NVIDIA开发了CUDA(计算统一设备体系结构)框架,以在C ++方言中实现称为内核的专用功能(称为内核),在有效地使用GPU中支持程序员。但是,CUDA的异常执行模型可能会导致性能异常,对于新手CUDA程序员来说很难预测。该项目的目的是开发推理技术和自动化工具来预测CUDA内核的资源使用情况。该项目的结果将在编写更有效的内核时极大地使包括新手在内的软件程序员受益。分析CUDA的性能而不是其他命令性语言的困难是,同一代码在存储本地程序变量的独立副本的许多线程上并行运行。该项目正在开发新颖的分析,可以在必要时考虑多个程序变量的副本,但要在可能的情况下进行此信息以维持可伸缩性。此外,CUDA代码的性能至关重要地取决于其通过快速在许多线程中切换来隐藏延迟的能力。因此,精确地推理了CUDA内核的执行时间,需要关于此类操作的延迟和GPU线程调度程序的行为的推理。该项目中开发的工具和分析可以打开通用GPU编程的新兴领域,向更广泛的开发人员开放,并提高计算几个重要领域中代码的质量和效率。这一奖项反映了NSF的法定任务,并通过使用该基金会的知识分子优点和广泛的影响来评估NSF的法定任务,并被认为是值得的。

项目成果

期刊论文数量(5)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
Probabilistic Resource-Aware Session Types
Modeling and analyzing evaluation cost of CUDA kernels
CUDA 内核评估成本建模与分析
Two decades of automatic amortized resource analysis
二十年的自动摊销资源分析
Automatic Amortized Resource Analysis with Regular Recursive Types
Static prediction of parallel computation graphs
并行计算图的静态预测
{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Jan Hoffmann其他文献

Finding a tree structure in a resolution proof is NP-complete
  • DOI:
    10.1016/j.tcs.2009.02.018
  • 发表时间:
    2009-05
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Jan Hoffmann
  • 通讯作者:
    Jan Hoffmann
Draft – April 16 , 2013 Observing Progress Properties via Contextual Refinements ( Extended Version )
草案 – 2013 年 4 月 16 日 通过上下文细化观察进度属性(扩展版本)
  • DOI:
  • 发表时间:
    2013
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Hongjin Liang;Jan Hoffmann;Xinyu Feng;Zhong Shao
  • 通讯作者:
    Zhong Shao
Types with potential: polynomial resource bounds via automatic amortized analysis
具有潜力的类型:通过自动摊销分析的多项式资源界限
  • DOI:
  • 发表时间:
    2011
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Jan Hoffmann
  • 通讯作者:
    Jan Hoffmann
Higher-order functional reactive programming in bounded space
有界空间中的高阶函数反应式编程
Replication Package for Article: Central Moment Analysis for Cost Accumulators in Probabilistic Programs
文章的复制包:概率程序中成本累加器的中心矩分析

Jan Hoffmann的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Jan Hoffmann', 18)}}的其他基金

SHF: Medium: Language Support for Sound and Efficient Programmable Inference
SHF:中:对健全且高效的可编程推理的语言支持
  • 批准号:
    2311983
  • 财政年份:
    2023
  • 资助金额:
    $ 50万
  • 项目类别:
    Continuing Grant
CAREER: Marlin: A Unified Framework for Automatic and Interactive Quantitative Program Analysis
职业:Marlin:自动和交互式定量程序分析的统一框架
  • 批准号:
    1845514
  • 财政年份:
    2019
  • 资助金额:
    $ 50万
  • 项目类别:
    Continuing Grant
SHF: Small: Collaborative Research: Resource-Guided Program Synthesis
SHF:小型:协作研究:资源引导程序综合
  • 批准号:
    1812876
  • 财政年份:
    2018
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant

相似国自然基金

自动化生产、人工智能与小微企业的市场进入——基于劳动者职业选择的视角
  • 批准号:
    72103098
  • 批准年份:
    2021
  • 资助金额:
    24.00 万元
  • 项目类别:
    青年科学基金项目
自动化生产、人工智能与小微企业的市场进入---基于劳动者职业选择的视角
  • 批准号:
  • 批准年份:
    2021
  • 资助金额:
    30 万元
  • 项目类别:
血液中自动披覆蛋白冠“马甲”的紫杉醇小分子自组装纳米药物的构建及其体内命运的研究
  • 批准号:
  • 批准年份:
    2020
  • 资助金额:
    24 万元
  • 项目类别:
    青年科学基金项目
三维属性直方图的概念与构建及其在海底小目标多波束前视声呐图像精细自动分割中的应用
  • 批准号:
    61661038
  • 批准年份:
    2016
  • 资助金额:
    44.0 万元
  • 项目类别:
    地区科学基金项目
小电流接地电网单相接地故障选线自动化的再研究
  • 批准号:
    50177007
  • 批准年份:
    2001
  • 资助金额:
    15.0 万元
  • 项目类别:
    面上项目

相似海外基金

CCF: SHF: Small: Self-Adaptive Interference-Avoiding Wireless Receiver Hardware through Real-Time Learning-Based Automatic Optimization of Power-Efficient Integrated Circuits
CCF:SHF:小型:通过基于实时学习的高能效集成电路自动优化实现自适应干扰避免无线接收器硬件
  • 批准号:
    2218845
  • 财政年份:
    2022
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
NSF-BSF: SHF: Small: Efficient, Automatic, and Trustworthy Smart Contract Verification
NSF-BSF:SHF:小型:高效、自动且值得信赖的智能合约验证
  • 批准号:
    2110397
  • 财政年份:
    2021
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
SHF: Small: Automatic, adaptive and massive parallel data processing on GPU/RDMA clusters in both synchronous and asynchronous modes
SHF:小型:在同步和异步模式下在 GPU/RDMA 集群上自动、自适应和大规模并行数据处理
  • 批准号:
    2005884
  • 财政年份:
    2020
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
SHF: Small: Automatic Generation of Cache Coherent Memory Systems for Multicore Processors
SHF:小型:自动生成多核处理器的缓存一致性内存系统
  • 批准号:
    2002737
  • 财政年份:
    2020
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
SHF: Small: Automatic Exploration and Analysis of Software Performance Responses
SHF:小型:软件性能响应的自动探索和分析
  • 批准号:
    1908870
  • 财政年份:
    2019
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了