自律的な抵抗変化をするシナプス素子を用いた効率的な深層学習の実現

利用自主改变阻力的突触元件实现高效深度学习

基本信息

批准号：
22K12174
负责人：
長谷川剛
金额：
$ 2.66万
依托单位：
Waseda University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (C)
财政年份：
2022
资助国家：
日本
起止时间：
2022-04-01 至 2025-03-31
项目状态：
未结题

项目摘要

現在、脳型情報処理に適した素子開発に基づく人工知能システムのハードウエア化が進められている。そこでは、ハードウエアはソフトウエアで実行されていた計算モデル通りに動作することが求められているが、シナプス素子として開発が進む抵抗変化素子は電圧印加後に抵抗変化（減衰）を示すなど、その要求を満たせていないものがある。しかし、人間の脳には、短期記憶や長期記憶に基づく学習動作など、ソフトウエアには未だ十分に組み込まれていない機能もある。本研究では、ソフトウエア上の動作を忠実に再現する上では不都合な減衰動作が情報処理に与える影響を明らかにし、さらには有効活用できる場を探索することを目的としている。2022年度は、抵抗減衰が既存の計算モデルに与える影響を理論および実験の両面から明らかにした。具体的には、誤差逆伝搬における抵抗値制御の際に意図的にエラーを導入し、学習の進み方や最終的な正答率に変化が現れるかを調べた。その結果、理想的な抵抗値からのズレが数％であれば、学習効率や最終的な正答率に悪い影響は現れないことが分かった。実際に素子を用いた実験でも、理想的な抵抗値からのずれは数％以内であることが確認できた。また、１０％以上のズレを生じる素子があっても、その割合が少なければ学習に影響を与えないことも、シミュレーションおよび実験から明らかにすることが出来た。これらに加えて、２０２３年度以降の実験に向けた素子作製プロセスの開発も進めた。以上の成果を２本の論文に纏めて成果報告を行った。

目前，基于适合脑型信息处理的要素的开发，正在为人工智能系统推广硬件。在这种情况下，需要硬件根据软件中执行的计算模型进行操作，但是某些作为突触元素开发的可变电阻元素，例如应用电压后表现出电阻变化（衰减），并且不符合要求。但是，人脑的功能尚未完全集成到软件中，例如基于长期记忆的短期记忆和学习操作。这项研究旨在阐明衰减操作的效果，这些操作对忠实地重现软件操作是不方便的，并探索可以有效使用它的地方。在2022财年，我们阐明了在现有计算模型上阻尼的理论和实验方面。具体而言，在控制误差后传播中的电阻值时有意引入错误，我们研究了学习进度和最终正确答案率是否进行了变化。结果，发现与理想电阻值的偏差为几个百分比，对学习效率或最终正确答案率将不会产生任何负面影响。在使用元素的实际实验中，可以证实与理想电阻值的偏差在百分之几之内。此外，还可以从模拟和实验中阐明，即使存在导致10％或更多元素的元素，如果比例很小，学习也不会受到影响。除此之外，我们还开发了一个设备制造工艺，用于从2023年开始进行实验。以上结果总结为两篇论文，并报告了结果。