A Kernelnalized learning method as a model of insect-brain and its application for an incremental learning algorithm for embedded machine learning systems

作为昆虫大脑模型的内核化学习方法及其在嵌入式机器学习系统增量学习算法中的应用

基本信息

批准号：
22K12176
负责人：
山内康一郎
金额：
$ 1.08万
依托单位：
Chubu University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (C)
财政年份：
2022
资助国家：
日本
起止时间：
2022-04-01 至 2025-03-31
项目状态：
未结题

项目摘要

ショウジョウバエの脳中枢であるキノコ体には、新奇な匂いだけに強く反応して、それを反Hebb学習するニューロンが存在する。この現象は新奇な匂いの追加学習を行っている事を強く示唆するものである[1]。ただし制限された容量以内で追加学習を継続するためか、新奇な匂いを与えると、既存の記憶に関係するキノコ体出力ニューロン（MBON)のシナプス結合強度が増加（記憶の減衰（忘却））することが確認されている[1]。この「忘却」メカニズムをKernel法を使ってモデル化し、忘却戦略に応じて次の2つの仮説を提案した。①最古の記憶を破棄すると仮定した場合、この破棄に伴う累積誤差の上昇を緩和する。②最近最も使用していない記憶を破棄すると仮定した場合、このような記憶を特定するために必要とされる。これらの仮説は、昆虫脳における記憶の忘却の重要性を示唆する。具体的には、このMBONα'-3のHebb学習モデルについて最大誤り回数と記憶の減衰率との関係を数学的に導出すると共に計算機シミュレーション結果も踏まえて、いずれも累積誤差を減少させることを示した。これらの結果は現在国際会議に投稿中である。また、組み込み機器向け学習エンジンの最新版LGRNNPlusを雑誌投稿し、採択された[2]。今後この学習理論に上記で得られた知見の導入を試みる。[1]D.Hattori, Y.Aso, Kurtis J. Swartz, Gerald M. Rubin, L.F. Abbott, Richard Axel . Cell, vol.169, pp. 956--969, May, (2017).[2] Koichiro Yamauchi ., Evolving Systems, vol.14, pp. 437--460, December, (2022).

蘑菇体是果蝇的大脑中心，含有对新气味强烈反应并使用反赫布学习的神经元。这种现象强烈表明正在发生对新气味的额外学习[1]。然而，也许为了在有限的能力内继续进行额外的学习，当呈现一种新的气味时，与现有记忆相关的蘑菇体输出神经元（MBON）的突触连接强度会增加（记忆衰退（遗忘））。 [1]。我们使用核方法对这种“遗忘”机制进行了建模，并根据遗忘策略提出了以下两个假设。 (1)假设最旧的存储器被丢弃，与该丢弃相关的累积误差的增加被减轻。 ②假设要丢弃最近最少使用的存储器，则需要识别此类存储器。这些假设表明记忆遗忘在昆虫大脑中的重要性。具体来说，我们从数学上推导了 MBONα'-3 的 Hebb 学习模型的最大错误数与记忆衰减率之间的关系，并根据计算机模拟结果表明，两者都减少了累积错误 Ta。这些结果目前正在提交给国际会议。我们还向杂志提交了最新版本的 LGRNNPlus（嵌入式设备的学习引擎）并被接受[2]。未来，我们将尝试将上述发现纳入到这一学习理论中。 [1]D.Hattori、Y.Aso、Kurtis J. Swartz、Gerald M. Rubin、L.F. Abbott、Richard Axel。Cell，第 169 卷，第 956--969 页，5 月，（2017 年）。[2] Yamauchi .，进化系统，第 14 卷，第 437--460 页，12 月，（2022 年）。