A study on a high efficiency training architecture for an edge-AI device

边缘AI设备高效训练架构研究

基本信息

批准号：
21J11958
负责人：
金子竜也
金额：
$ 1.09万
依托单位：
Hokkaido University
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-28 至 2023-03-31
项目状态：
已结题

项目摘要

AIの演算処理は「推論処理」と「学習処理」に大別でき，AIの恩恵を得るためにはどちらの処理も必須である．そのうち，主に積和演算等から成り立つ推論処理については多くのエッジAIソリューションが存在する．一方，エッジでの学習処理については，未だ汎用プロセッサを中心としたソフトウェア的な手法に留まっており，消費電力や演算リソース等の学習処理のコストは極めて高い．そこで本研究は，電力やハードウェア資源が制限されるエッジデバイスにおいて，学習処理を可能とする新規アルゴリズムとそれらを実装するアーキテクチャの構築を目的とした．その一つとして，アナログ回路を導入した「コンピューティングインメモリ（Computing in Memory: CIM）デバイス」のための誤差逆伝播法，およびCIMデバイスを用いて学習処理を行うアーキテクチャの構築を行った．従来のノイマン型アーキテクチャの問題解消に向けた取り組みとして多量のデータ（パラメータ）を保存しているメモリ上で積和演算を行うCIMアーキテクチャが注目されている．本研究では，「ReRAMを用いたCIM AIデバイス」上に学習機能を実現するための新規アルゴリズムの開発を行った．多くのCIM AIデバイスの抱える問題に対処するためディジタル誤差逆伝播法（Digital BP）に着目し，その弱点（性能低下）を補うニューラルネットワークの構造を新たに考案しその性能を示した．当該年度は，査読付き論文誌への投稿とその査読結果を踏まえて電力に関する追加評価を行い，学習部における演算コアの消費電力を10 mW以下にできることを示した．また，同等のアーキテクチャ構造（CIMデバイスを外部メモリとして扱い，学習を専用回路で行う）を持つ他の研究と比較し，その優位性を議論した．上記結果をまとめたものを現在論文誌へと投稿中である．

人工智能计算处理可以广泛分为“推理处理”和“学习处理”，这对于获得AI的好处至关重要。其中，有许多用于推理处理的边缘AI解决方案，主要由居住计算组成。另一方面，边缘的学习处理仍在以通用 - 可使用处理器为中心的软件方法中，并且学习处理（例如功耗和计算资源）的成本非常高。因此，这项研究旨在构建一种新算法，该算法可以使学习处理以及在限制电力和硬件资源的边缘设备上实现它们的体系结构。作为其中之一，我们为“内存中的计算：CIM）设备构建了一种反向反向传输方法，该方法引入了模拟电路，以及使用CIM设备执行学习处理的体系结构。 CIM体系结构在存储器上执行了瓦式操作，该内存保留了大量数据（参数）作为解决常规Neiman -type体系结构问题的主动性。在这项研究中，我们开发了一种新的算法，以实现“使用RERAM的CIM AI设备”上的学习功能。为了处理许多CIM AI设备的问题，我们专注于数字反向反向传输法（数字BP），新设计了一种神经网络结构，以补偿其弱点（性能差），并表示其性能。在财政年度，它被发布到了一份审查的论文杂志上，并根据其同行评审的结果进行了额外的权力评估，这表明算术核心的功耗可以在研究部门消耗至10 MW或更少。。此外，与其他具有相同结构结构的研究（将CIM设备视为外部记忆和在专用电路上进行学习）相比，讨论了优越性。以上结果目前已发布到人工杂志上。