A Kernelnalized learning method as a model of insect-brain and its application for an incremental learning algorithm for embedded machine learning systems

作为昆虫大脑模型的内核化学习方法及其在嵌入式机器学习系统增量学习算法中的应用

基本信息

批准号：
22K12176
负责人：
山内康一郎
金额：
$ 1.08万
依托单位：
Chubu University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (C)
财政年份：
2022
资助国家：
日本
起止时间：
2022-04-01 至 2025-03-31
项目状态：
未结题

项目摘要

ショウジョウバエの脳中枢であるキノコ体には、新奇な匂いだけに強く反応して、それを反Hebb学習するニューロンが存在する。この現象は新奇な匂いの追加学習を行っている事を強く示唆するものである[1]。ただし制限された容量以内で追加学習を継続するためか、新奇な匂いを与えると、既存の記憶に関係するキノコ体出力ニューロン（MBON)のシナプス結合強度が増加（記憶の減衰（忘却））することが確認されている[1]。この「忘却」メカニズムをKernel法を使ってモデル化し、忘却戦略に応じて次の2つの仮説を提案した。①最古の記憶を破棄すると仮定した場合、この破棄に伴う累積誤差の上昇を緩和する。②最近最も使用していない記憶を破棄すると仮定した場合、このような記憶を特定するために必要とされる。これらの仮説は、昆虫脳における記憶の忘却の重要性を示唆する。具体的には、このMBONα'-3のHebb学習モデルについて最大誤り回数と記憶の減衰率との関係を数学的に導出すると共に計算機シミュレーション結果も踏まえて、いずれも累積誤差を減少させることを示した。これらの結果は現在国際会議に投稿中である。また、組み込み機器向け学習エンジンの最新版LGRNNPlusを雑誌投稿し、採択された[2]。今後この学習理論に上記で得られた知見の導入を試みる。[1]D.Hattori, Y.Aso, Kurtis J. Swartz, Gerald M. Rubin, L.F. Abbott, Richard Axel . Cell, vol.169, pp. 956--969, May, (2017).[2] Koichiro Yamauchi ., Evolving Systems, vol.14, pp. 437--460, December, (2022).

在蘑菇体，果蝇的大脑中心，有一些神经元对新颖的气味反应强烈，并在其上学习抗Hebb。这种现象强烈表明我们正在学习其他新型气味[1]。但是，已经证实，如果给出一种新颖的气味，也许是因为额外的学习能力在有限的能力下继续，那么与现有记忆有关的蘑菇体输出神经元（MBON）的突触结合强度会增加（记忆衰减（遗忘））。使用内核法对这种“忘记”机制进行了建模，并根据遗忘策略提出了两个假设：1）如果假设要丢弃最古老的内存，则将减少与此丢弃相关的累积错误的增加。 ②如果我们假设我们将丢弃最近使用至少使用的内存，则有必要识别此类内存。这些假设表明记忆忘记在昆虫大脑中的重要性。具体而言，对于Mbonα'-3的HEBB学习模型，最大错误数量与记忆衰减率之间的关系是数学得出的，并且还考虑了计算机模拟的结果，并且表明它们都减少了累积错误。这些结果目前已提交国际会议。此外，在杂志上提交了最新版本的Lgrnnplus，这是一种用于嵌入式设备的学习引擎，并被选择[2]。我们将尝试将上述发现将来引入该学习理论。 [1] D. Hattori，Y。Aso，Kurtis J. Swartz，Gerald M. Rubin，L。F. Abbott，Richard Axel。牢房，卷。 169，pp。956--969，5月，（2017年）。[2] Koichiro Yamauchi。，Evolving Systems，第1卷。 14，第437--460页，12月（2022年）。