Constructing mathematical foundation in interdisciplinary field of optics and machine learning

构建光学与机器学习跨学科领域的数学基础

• 批准号: 22K19787
• 负责人: 佐藤 一誠
• 金额: $ 4.16万
• 依托单位: The University of Tokyo
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Challenging Research (Exploratory)
• 财政年份: 2022
• 资助国家: 日本
• 起止时间: 2022-06-30 至 2025-03-31
• 项目状态: 未结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-22K19787/
• 关键词: 機械学習; 光学

ランダム射影＋カーネル法の射影部分を光学デバイスで置き換える場合、光学デバイスの性質から、実際には従来のランダム射影＋カーネル法とは異なるアルゴリズムとなるため、その性質は理論的には十分には分かっていない。性質1. １本のレーザーを回折光学素子に通してランダムなパターンを構築することからランダム射影として0/1の疎な２値行列(1の数が少ない)を用いる必要がある。性質2. 入力に対して複数のランダムパターンを切り替えて射影するよりも、１つの(長い)行列をずらしながら入力を射影させて畳み込みを行うほうが高速に計測可能である。これらの性質は、ランダム射影による特徴抽出＋カーネル法の従来研究とは大きく異なり理論解析の観点からも難しい点がある。性質1.により、ランダム射影の従来理論で基礎となる射影行列の劣ガウス性が仮定できない。性質2.により、射影された特徴ベクトルのそれぞれの特徴量は射影行列をずらしながら適用しているので、使われている射影行列に重複部分があるため独立性を仮定できない。本年度では、以下の解析を行った。元の入力同士のL2ノルムでの距離が、射影された特徴ベクトルの空間でのL2ノルムの距離で近似できることを示しているためカーネル法を用いるアルゴリズムでは特に重要な性質である制限等長性 (Restricted isometry property, RIP)の証明を行った。具体的には、制約１に対しては上記のランダム射影による特徴ベクトルがBernstein条件を満たす十分条件を示し、Bernstein不等式を利用することで解決した。制約2に対しては射影されたベクトルの構成要素を独立な要素に分割する際に，２つ入力データの差で表現される特徴ベクトル（入力が画像の場合は差分画像）の自己相関に類似した量によってRIPが成り立つ確率が変動することを示した。

当用光学器件代替随机投影+核方法的投影部分时，由于光学器件的特性，算法实际上会与常规随机投影+核方法不同，因此其特性在理论上还不能完全理解。还没有。性质1.由于随机图案是由一束激光通过衍射光学元件构建的，因此需要使用0/1（具有少量1）的稀疏二进制矩阵作为随机投影。属性 2. 通过在移动一个（长）矩阵的同时投影输入来执行卷积比在输入上切换和投影多个随机模式更快。这些性质与随机投影+核方法特征提取的常规研究有很大不同，从理论分析的角度来看是困难的。由于属性 1，无法假设作为传统随机投影理论基础的投影矩阵的亚高斯性质。根据性质2，在移动投影矩阵的同时应用投影特征向量的每个特征，因此不能假定独立性，因为所使用的投影矩阵具有重叠部分。今年，我们进行了以下分析。受限等距属性（我们演示了受限等距属性（RIP）。具体来说，对于约束1，我们给出了上述随机投影得到的特征向量满足伯恩斯坦条件的充分条件，并利用伯恩斯坦不等式对其进行求解。对于约束2，当将投影向量的分量划分为独立元素时，它类似于由两个输入数据之间的差异表示的特征向量（如果输入是图像则为差异图像）的自相关性。 RIP 持有的概率因金额而异。