ニューラルネットワークの高効率インメモリ・リコンフィギャラブルプロセッサの研究

基于神经网络的高效内存可重构处理器研究

• 批准号: 18J20307
• 负责人: 安藤 洸太
• 金额: $ 1.98万
• 依托单位: Tokyo Institute of Technology (2019-2020)Hokkaido University (2018)
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for JSPS Fellows
• 财政年份: 2018
• 资助国家: 日本
• 起止时间: 2018-04-25 至 2021-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-18J20307/
• 关键词: ニューラルネットワーク; リコンフィギャラブルLSI; 畳込みニューラルネットワーク; 再構成可能アーキテクチャ; アクセラレータ; 量子化; ディザ; LSI; ハードウェア志向アルゴリズム; 深層学習; ハードウェアアクセラレータ; ハードウェアアーキテクチャ; ディジタル信号処理

前年度より、ニューラルネットワークの１層分の係数を格納するメモリと対となった積和演算器を再構成単位としてアレイ状に配列した、粗粒度なメモリ密結合型（ニアメモリ）リコンフィギャラブルアクセラレータを考えてきた。本年度はこの発展形として並行して発想された、演算器個別ではなく演算器アレイ全体に結合する独立制御可能なメモリにより、ニューラルネットワーク層単位でメモリ読み出し・演算・メモリ書き戻しまでをパイプライン処理する方式に注力した。近年の大規模化するニューラルネットワークの効率的処理の観点において、処理全体の消費電力にメモリアクセスが占める割合が非常に大きいことから、一度メモリからロードされたデータを可能な限り再利用すること（算術強度の改善）が重要である。一方、近年の高速化を目指すスパースなモデルアルゴリズムには不連続・不規則なメモリアクセスを強いるものが多数となり、従来の方法での算術強度の向上は難しくなった。本方式は１）演算器アレイの行と列をデータ構造の独立の次元に当てて並列化すること、２）それぞれの演算器に供給するデータの選択は独立制御可能なメモリのアドレシングで行い、隣接メモリ間でのデータのアラインメントずれを吸収するデータ選択機構を取り入れること、３）演算器アレイでの計算結果の書き戻しもパイプライン上で行うことの３点から、不規則なデータ構造に対しても演算器の占有率と算術強度の最大化を図るものである。この方式に基づいて試作LSIを製作し、評価を行った。その成果は現在国際会議へ投稿中（採否通知待ち）である。また、既存のニューラルネットワークモデルの認識精度を保ったまま、この演算器構造で最高効率となるスパースなデータ構造に変形しながら再学習する学習アルゴリズムも提案中である。

从上一年开始，神经网络的财政构成单层系数，该系数与内存的乘法器搭配为调和单元，而粗糙的内存类型（靠近存储器）可重新填充加速器一直在想。在这个财政年度，我们关注的是，与整个算术阵列（而不是单个运算符）结合的独立记忆。近年来，内存访问与整体功耗的整体功耗之比是重新使用数据，这些数据已尽可能多地从内存中加载（（1）近年来神经网络的有效处理的观点改善算术强度很重要。另一方面，近年来旨在加快加速的许多稀疏模型算法被迫停止和不规则的记忆访问，因此很难提高常规方法中的算术强度。此方法是1）算术阵列的线，并通过应用数据结构的独立尺寸并行列，2）从包含数据选择的三个点为每个操作员选择要提供的数据。吸收相邻内存之间的比对移动的机制，而计算的重写会导致算术阵列，在管道上，对于不规则的数据结构，它也最大化了操作员的占用率和算术强度。基于此方法生产和评估了原型LSI。结果目前已发布给国际会议（等待审核的康复）。此外，一种在维持现有神经网络模型的识别精度的同时重新研究的学习算法将转变为稀疏的数据结构，这是该操作员结构的最高效率。