危険度が高い敵対的事例をハードラベルブラックボックス条件下で発見する最適化法

硬标签黑盒条件下发现高风险对抗案例的优化方法

基本信息

批准号：
22K12196
负责人：
小野智司
金额：
$ 2.66万
依托单位：
Kagoshima University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (C)
财政年份：
2022
资助国家：
日本
起止时间：
2022-04-01 至 2025-03-31
项目状态：
未结题

项目摘要

本研究は，危険度が高い脆弱性を，外乱や環境変化の影響を受けにくく深層ニューラルネットワーク（DNN）の誤動作を継続的に誘発する敵対的事例と考え，学習器が出力するTop-1クラスラベルのみを利用してこれを発見する方式を開発する．以下では，本年度の実績について，当初の研究計画の主要な研究内容である(a)ハードラベルブラックボックス条件下で危険性の高い敵対的事例を生成する方式の創出，および，(b) 物体認識，音声認識，物体検出，深度推定等のタスクへの応用，の観点から述べる．(a)のハードラベルブラックボックス条件下において危険度の高い敵対的事例を発見する方式については，基本アルゴリズムの設計を行い，CMA-ESを基本とする攻撃アルゴリズムの特性の検証を行うとともに，物理環境下で脆弱性を検証することで敵対的事例候補の評価を行う実環境評価型最適化アルゴリズムの開発を行った．(b)の各種タスクの応用については，物体認識，音声認識，深度推定タスクを対象として提案する敵対的攻撃アルゴリズムを適用するソフトウェアの開発を行った．特に，画像を扱う深層ニューラルネットワークを実環境下で検証する実験環境の構築を行った．上記に加え今年度は，(c) 敵対的事例の脆弱性に着目することで得られた敵対的事例の矯正方式，すなわち，敵対的事例から正しい分類カテゴリを推定する方式の着想を得た．本方式は，防御の対象となる深層ニューラルネットワークが扱う入力の種類（画像，音声など）によらず，敵対的攻撃方法が確立されている種類であれば適用できる汎用性に特徴がある．

这项研究将高风险的脆弱性视为敌对病例，这些病例不太容易受到干扰和环境变化的影响，并不断诱发深层神经网络（DNNS）的故障，并开发了一种仅使用学习者输出的Top-1类标签来发现它们的方法。 Below, we will discuss this year's performance in terms of the main research content of the original research plan: (a) the creation of a method for generating highly dangerous adversarial cases under hard label black box conditions, and (b) the application to tasks such as object recognition, speech recognition, object detection, depth estimation, etc. Regarding the method for discovering high-risk adversary cases under the hard label black box conditions in (a), we designed a basic algorithm, verified the基于CMA-E的攻击算法的特征，并开发了一种实质评估类型优化算法，该算法通过验证物理环境中的漏洞来评估候选对手案例。为了应用（b）中的各种任务，我们开发了针对对象识别，语音识别和深度估计任务的对抗攻击算法的软件。特别是，我们构建了一个实验环境，该环境研究了在真实环境中处理图像的深神网络。除上述内容外，今年我们还启发了一种（c）通过关注敌对案件中的漏洞，即一种估算敌对案件中正确分类类别的方法来纠正纠正敌对案件的方法。该方法的特征是其多功能性，该方法可以应用于具有已建立的敌对攻击方法的类型，而不管由正在辩护的深神经网络处理的输入类型（图像，音频等）。