短期記憶と長期記憶に基づく連想記憶モデルと条件反射による推論の高速化

基于短期和长期记忆的联想记忆模型以及使用条件反射加速推理

基本信息

批准号：
13780262
负责人：
山内康一郎
金额：
$ 0.96万
依托单位：
Hokkaido University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Young Scientists (B)
财政年份：
2001
资助国家：
日本
起止时间：
2001 至 2002
项目状态：
已结题

项目摘要

ロボットに求められるモデルベース学習法として、1)少ないリソースで多くのエピソードを記憶できること.2)学習が高速であること.3)追加学習をサポートすること.が挙げられる.昨年度から上記の条件を実現するシステムを構築して来たが、本年度はこのシステムを完成するべく、次を行った。1.昨年度まで提案してきた,速い学習と遅い学習を組み合わせた追加学習法を煮詰め、構造を簡素化し、汎化能力を高めた上、曖昧なクラスタリングにも適用できるよう改良した。具体的には3個あったネットワークを2個に削減し、構造を劇的に簡素化し、事後確率推定を行えるように学習アルゴリズムを発展させた。これにより現在までにUCI machine learning repositoryにある少なくとも10個以上のデータセットに対してk-Nearest Neighborsと遜色無い汎化能力を示しただけでなく、必要なリソースを劇的に減らすことができることを確認している。2.条件反射を使った推論の高速化の研究として,メタ学習を用いた最適化問題の高速解法の研究を行った.ここでは川人らが提案した随意運動のモデルをヒントにして、彼らが提案している逆モデルが、神経回路の追加学習におけるパラメータの推定問題を解いているとみなしてシステムを構築した。すなわち,新しい追加サンプルが与えられると過去の記憶を保持しつつ新しい学習サンプルに適応する荷重パラメータを条件反射的に一撃で局所最適解の近くまで移動させ,残りは小数回の勾配法の適用によって局所最適解に導くというものである.これを行うに当たって,昨年度は神経回路としてRadial Basis Function (RBF)を選び,核関数の中心位置と分散を固定するという制限を設けていた。本年度はRBFに加えていた制限を取り除き、Resource Allocating Networkを用いて適応的に細胞数を増加させるネットワークで実現し、カオス系列の学習等、学習に周期性が生じるような問題に有効であることを示した。3.条件反射を使った推論の高速化の研究として、人間の解発見方略を心理実験で調査し、工学的応用を図った。特に変数選択を含むモデル選択課題に対して、人間の高速な解発見能力を調べた。すると、人間は事前知識を積極的に利用していること、入力と出力との短時間相関を元に変数選択を行うこと、および解候補の局所的変更と大局的変更とを交互に操り返しているらしいことをつきとめた。これをマルチエージェント環境に応用して人の集団の振舞の予測への応用の可能性を探った。

机器人所需的基于模型的学习方法包括1）能够记住以较少资源的记忆，2）学习速度和3）支持其他学习。自去年以来，我们一直在建立一个实现上述条件的系统，但是今年我们已经采取了以下步骤来完成该系统。 1。直到去年，我们提出的其他学习方法结合了快速和缓慢的学习，已经减少了，简化了结构，增强的概括能力并改进了它以适用于模棱两可的聚类。具体而言，我们将三个网络的数量减少到两个网络，大大简化了结构，并开发了一种学习算法以进行后验概率估计。这不仅证明了迄今为止UCI机器学习存储库中至少10个或更多数据集可与K-Nearest邻居相当的概括功能，而且还确认它可以大大减少所需的资源。 2。作为有关使用条件反射加速推理的研究，我们对使用元学习的优化问题进行快速解决方案进行了研究。在这里，我们使用了Kawato和其他人提出的自愿运动模型来构建系统，因为他们提出的逆模型是在神经回路的其他学习中解决参数估计问题。换句话说，当给出一个新的其他样本时，一个适合新学习样本的负载参数将以反射性地转移到局部最佳解决方案附近，而其余的则通过应用小数梯度方法将其引导到局部最佳解决方案。在此过程中，去年我们选择了径向基函数（RBF）作为神经回路，并设定了固定核功能的中心位置和分散的限制。今年，删除了RBF的局限性，并使用资源分配网络自适应地增加了细胞的数量，并且证明它对于诸如学习混乱的序列（导致周期性的学习混乱序列）有效。 3。作为一项使用条件反射加快推理的研究，使用心理实验研究了人类解决方案发现策略，并进行了工程应用。我们研究了人类发现快速解决方案的能力，特别是对于涉及可变选择的模型选择任务。然后，我们发现人类会积极使用先验知识，根据输入和输出之间的短期相关性选择变量，并且它们在解决方案候选者的局部和大规模变化之间进行了交替。这应用于多机构环境，并探讨了预测人类行为的应用的可能性。