EAGER: Invisible Shield: Can Compression Harden Deep Neural Networks Universally Against Adversarial Attacks?

EAGER：隐形盾牌：压缩能否使深层神经网络普遍抵御对抗性攻击？

基本信息

批准号：
2011260
负责人：
Wujie Wen
金额：
$ 14.92万
依托单位：
Lehigh University
依托单位国家：
美国
项目类别：
Standard Grant
财政年份：
2019
资助国家：
美国
起止时间：
2019-11-07 至 2021-08-31
项目状态：
已结题

来源：
https://www.nsf.gov/awardsearch/showAward?AWD_ID=2011260&HistoricalAwards=false
关键词：
EAGER Invisible Shield Compression Harden

项目摘要

Deep neural networks (DNNs) are finding applications in wide-ranging applications such as image recognition, medical diagnosis and self-driving cars. However, DNNs suffer from a security threat: decisions can be misled by adversarial inputs crafted by adding human-imperceptible perturbations into normal inputs during training of DNN model. Defending against adversarial attacks is challenging due to multiple attack vectors, unknown adversary's strategies and cost. This project investigates a compression/decompression-based defense strategy to protect DNNs against any attack, with low cost and high accuracy. The project aims to create a new paradigm of safeguarding DNNs from a radically different perspective by using signal compression with a focus on integrating defenses into compression of the inputs and DNN models. The research tasks include: (i) developing defensive compression for visual/audio inputs to maximize defense efficiency without compromising testing accuracy; (ii) developing defensive model compression, and novel gradient masking/obfuscating methods without involving retraining, to universally harden DNN models; and (iii) conducting attack-defense evaluations through algorithm-level simulation and live platform experimentation.Any success from this EAGER project will be useful to research community interested in deep learning, hardware- and cyber- security, and multimedia. This project enhances economic opportunities by promoting wider applications of deep learning into realistic systems, and gives special attention to educating women and students from traditionally under-represented/under-served groups in Florida International University (FIU).The project repository will be stored on a publicly accessible server at FIU (http://web.eng.fiu.edu/wwen/). Data will be maintained for at least 5 years after the project period.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.

深度神经网络 (DNN) 正在广泛应用于图像识别、医疗诊断和自动驾驶汽车等领域。然而，DNN 面临着安全威胁：决策可能会被对抗性输入误导，这些对抗性输入是在 DNN 模型训练期间将人类难以察觉的扰动添加到正常输入中而产生的。由于多种攻击向量、未知对手的策略和成本，防御对抗性攻击具有挑战性。该项目研究了一种基于压缩/解压缩的防御策略，以低成本和高精度保护 DNN 免受任何攻击。该项目旨在通过使用信号压缩，从完全不同的角度创建一种新的保护 DNN 的范例，重点是将防御措施集成到输入和 DNN 模型的压缩中。研究任务包括：（i）开发视觉/音频输入的防御压缩，以在不影响测试准确性的情况下最大限度地提高防御效率； (ii) 开发防御性模型压缩和新颖的梯度掩蔽/混淆方法而不涉及再训练，以普遍强化 DNN 模型； (iii) 通过算法级模拟和实时平台实验进行攻击防御评估。该 EAGER 项目的任何成功都将对深度学习、硬件和网络安全以及多媒体感兴趣的研究社区有用。该项目通过促进深度学习在现实系统中的更广泛应用来增加经济机会，并特别关注对佛罗里达国际大学 (FIU) 传统上代表性不足/服务不足群体的妇女和学生进行教育。项目存储库将存储在FIU 的可公开访问的服务器 (http://web.eng.fiu.edu/wwen/)。数据将在项目期结束后保存至少 5 年。该奖项反映了 NSF 的法定使命，并通过使用基金会的智力价值和更广泛的影响审查标准进行评估，被认为值得支持。

项目成果

期刊论文数量（7）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

Efficient Implementation of Finite Field Arithmetic for Binary Ring-LWE Post-Quantum Cryptography Through a Novel Lookup-Table-Like Method

通过新颖的类查找表方法有效实现二元环 LWE 后量子密码学的有限域算法

DOI：
发表时间：
2021
期刊：
Proc. ACM/IEEE 58th Design Automation Conference (DAC
影响因子：
0
作者：
Xie, Jiafeng;He, Pengzhou;Wen, Wujie
通讯作者：
Wen, Wujie

Model Compression Hardens Deep Neural Networks: A New Perspective to Prevent Adversarial Attacks

DOI：
10.1109/tnnls.2021.3089128
发表时间：
2021-06-25
期刊：
IEEE TRANSACTIONS ON NEURAL NETWORKS AND LEARNING SYSTEMS
影响因子：
10.4
作者：
Liu, Qi;Wen, Wujie
通讯作者：
Wen, Wujie

An Image Enhancing Pattern-based Sparsity for Real-time Inference on Mobile Devices

DOI：
10.1007/978-3-030-58601-0_37
发表时间：
2020-01
期刊：
ArXiv
影响因子：
0
作者：
Xiaolong Ma;Wei Niu;Tianyun Zhang;Sijia Liu;Fu-Ming Guo;Sheng Lin;Hongjia Li;Xiang Chen;Jian Tang;Kaisheng Ma;Bin Ren;Yanzhi Wang
通讯作者：
Xiaolong Ma;Wei Niu;Tianyun Zhang;Sijia Liu;Fu-Ming Guo;Sheng Lin;Hongjia Li;Xiang Chen;Jian Tang;Kaisheng Ma;Bin Ren;Yanzhi Wang

StegoNet: Turn Deep Neural Network into a Stegomalware

DOI：
10.1145/3427228.3427268
发表时间：
2020-12
期刊：
Proceedings of the 36th Annual Computer Security Applications Conference
影响因子：
0
作者：
Tao Liu;Zihao Liu;Qi Liu;Wujie Wen;Wenyao Xu;Ming Li
通讯作者：
Tao Liu;Zihao Liu;Qi Liu;Wujie Wen;Wenyao Xu;Ming Li

Stealing Your Data from Compressed Machine Learning Models

从压缩的机器学习模型中窃取数据

DOI：
10.1109/dac18072.2020.9218633
发表时间：
2020
期刊：
2020 57th ACM/IEEE Design Automation Conference (DAC
影响因子：
0
作者：
Xu, Nuo;Liu, Qi;Liu, Tao;Liu, Zihao;Guo, Xiaochen;Wen, Wujie
通讯作者：
Wen, Wujie

DOI：
{{ item.doi }}
发表时间：
{{ item.publish_year }}
期刊：
{{ item.journal_name }}
影响因子：
{{ item.factor }}
作者：
{{ item.authors }}
通讯作者：
{{ item.author }}

数据更新时间：{{ journalArticles.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ monograph.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ sciAawards.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ conferencePapers.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ patent.updateTime }}

Wujie Wen其他文献

EFENDING DNN A DVERSARIAL A TTACKS WITH P RUNING AND L OGITS A UGMENTATION

通过剪枝和逻辑增强来防御 DNN 对抗攻击

DOI：
发表时间：
2018
期刊：
影响因子：
0
作者：
Shaokai Ye;Siyue Wang;Xiao Wang;Bo Yuan;Wujie Wen;X. Lin
通讯作者：
X. Lin

AdaPI: Facilitating DNN Model Adaptivity for Efficient Private Inference in Edge Computing

AdaPI：促进 DNN 模型适应性，以实现边缘计算中的高效私有推理

DOI：
发表时间：
2024
期刊：
影响因子：
0
作者：
Tong Zhou;Jiahui Zhao;Yukui Luo;Xi Xie;Wujie Wen;Caiwen Ding;Xiaolin Xu
通讯作者：
Xiaolin Xu

FlexLevel NAND Flash Storage System Design to Reduce LDPC Latency

FlexLevel NAND 闪存存储系统设计可减少 LDPC 延迟

DOI：
10.1109/tcad.2016.2619480
发表时间：
2017-07
期刊：
IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems
影响因子：
2.9
作者：
Jie Guo;Wujie Wen;Jingtong Hu;王党辉;Hai Lu;Yiran Chen
通讯作者：
Yiran Chen