短期記憶と長期記憶に基づく連想記憶モデルと条件反射による推論の高速化

基于短期和长期记忆的联想记忆模型以及使用条件反射加速推理

基本信息

  • 批准号:
    13780262
  • 负责人:
  • 金额:
    $ 0.96万
  • 依托单位:
  • 依托单位国家:
    日本
  • 项目类别:
    Grant-in-Aid for Young Scientists (B)
  • 财政年份:
    2001
  • 资助国家:
    日本
  • 起止时间:
    2001 至 2002
  • 项目状态:
    已结题

项目摘要

ロボットに求められるモデルベース学習法として、1)少ないリソースで多くのエピソードを記憶できること.2)学習が高速であること.3)追加学習をサポートすること.が挙げられる.昨年度から上記の条件を実現するシステムを構築して来たが、本年度はこのシステムを完成するべく、次を行った。1.昨年度まで提案してきた,速い学習と遅い学習を組み合わせた追加学習法を煮詰め、構造を簡素化し、汎化能力を高めた上、曖昧なクラスタリングにも適用できるよう改良した。具体的には3個あったネットワークを2個に削減し、構造を劇的に簡素化し、事後確率推定を行えるように学習アルゴリズムを発展させた。これにより現在までにUCI machine learning repositoryにある少なくとも10個以上のデータセットに対してk-Nearest Neighborsと遜色無い汎化能力を示しただけでなく、必要なリソースを劇的に減らすことができることを確認している。2.条件反射を使った推論の高速化の研究として,メタ学習を用いた最適化問題の高速解法の研究を行った.ここでは川人らが提案した随意運動のモデルをヒントにして、彼らが提案している逆モデルが、神経回路の追加学習におけるパラメータの推定問題を解いているとみなしてシステムを構築した。すなわち,新しい追加サンプルが与えられると過去の記憶を保持しつつ新しい学習サンプルに適応する荷重パラメータを条件反射的に一撃で局所最適解の近くまで移動させ,残りは小数回の勾配法の適用によって局所最適解に導くというものである.これを行うに当たって,昨年度は神経回路としてRadial Basis Function (RBF)を選び,核関数の中心位置と分散を固定するという制限を設けていた。本年度はRBFに加えていた制限を取り除き、Resource Allocating Networkを用いて適応的に細胞数を増加させるネットワークで実現し、カオス系列の学習等、学習に周期性が生じるような問題に有効であることを示した。3.条件反射を使った推論の高速化の研究として、人間の解発見方略を心理実験で調査し、工学的応用を図った。特に変数選択を含むモデル選択課題に対して、人間の高速な解発見能力を調べた。すると、人間は事前知識を積極的に利用していること、入力と出力との短時間相関を元に変数選択を行うこと、および解候補の局所的変更と大局的変更とを交互に操り返しているらしいことをつきとめた。これをマルチエージェント環境に応用して人の集団の振舞の予測への応用の可能性を探った。
机器人所需的基于模型的学习方法包括:1)能够用很少的资源记住很多情节;2)快速学习;3)支持额外的学习。从去年开始,我们就已经满足了上述条件。系统来实现这一目标,今年我们做了以下工作来完成这个系统。 1. 直到去年才提出的快速学习和慢速学习相结合的加法学习方法经过细化,简化了结构,提高了泛化能力,并进行了改进,使其可以应用于模糊聚类。具体来说,我们将网络数量从三个减少到两个,大大简化了结构,并开发了一种可以执行后验概率估计的学习算法。迄今为止,这不仅证明了 UCI 机器学习存储库中至少 10 个数据集的泛化能力与 k 最近邻相当,而且还证明了所需的资源可以大大减少,我已经证实了这一点。 2.作为我们利用条件反射加速推理的研究的一部分,我们对如何利用元学习快速解决优化问题进行了研究。这里,我们使用了Kawato等人提出的自愿运动模型,我们通过假设构建了一个系统。文献[1]提出的逆模型解决了神经电路加性学习中的参数估计问题。换句话说,当给定一个新的附加样本时,在保留过去记忆的同时,将适应新学习样本的权重参数有条件地一次性移动到局部最优解附近,剩下的就通过应用分数梯度法来完成为了做到这一点,去年我们选择径向基函数(RBF)作为神经电路,并设置核函数的中心位置和方差固定的限制。今年,我们消除了 RBF 的限制,并通过使用资源分配网络自适应地增加单元数量的网络来实现它,这对于学习中出现周期性的问题(例如学习混沌序列)非常有效。 3. 作为利用条件反射加速推理研究的一部分,我们通过心理学实验研究了人类解决方案发现策略,并尝试将其应用于工程。特别是,我们研究了人类快速找到涉及变量选择的模型选择任务的解决方案的能力。这表明人类积极利用先验知识,根据输入和输出之间的短期相关性选择变量,并交替对候选解决方案进行局部和全局更改。我发现似乎确实如此。我们将其应用于多智能体环境,并探索其应用于预测人群行为的可能性。

项目成果

期刊论文数量(5)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
山内: "睡眠期間を導入したモデル選択付追加学習"電子情報通信学会技術報告. NC2001-192(3月発表). (2003)
Yamauchi:“包含睡眠周期的模型选择的附加学习”IEICE NC2001-192(2003 年 3 月出版)。
  • DOI:
  • 发表时间:
  • 期刊:
  • 影响因子:
    0
  • 作者:
  • 通讯作者:
大平, 山内, 大森: "メタ情報の学習による追加学習の高速化"電子情報通信学会技術報告. NC2001(3月19日発表). (2002)
Ohira、Yamauchi、Omori:“通过学习元信息加速额外学习”IEICE NC2001(3 月 19 日发表)。
  • DOI:
  • 发表时间:
  • 期刊:
  • 影响因子:
    0
  • 作者:
  • 通讯作者:
大平, 山内, 大森: "メタ学習による追加学習の高速化"日本神経回路学会 第12回全国大会jnns鳥取. 113-116 (2002)
Ohira、Yamauchi、Omori:“使用元学习加速额外学习”第 ​​12 届日本神经网络学会全国会议 JNNS Tottori 113-116 (2002)。
  • DOI:
  • 发表时间:
  • 期刊:
  • 影响因子:
    0
  • 作者:
  • 通讯作者:
K.Yamauchi, et al.: "Incremental Learning with Sleep -Learning of noiseless datasets-"in International Conference on Neural Information Processing ICONIP2002. Vol.1. 398-403 (2002)
K.Yamauchi 等人:“睡眠增量学习 - 无噪声数据集的学习 -”,神经信息处理国际会议 ICONIP2002。
  • DOI:
  • 发表时间:
  • 期刊:
  • 影响因子:
    0
  • 作者:
  • 通讯作者:
K.Yamauchi, et.al: "Sensory Integrating Neural Network with Selective Attention Architecture for Autonomous Robots"International Journal of Knowledge-Based Intelligent Engineering Systems. Vol.5. 142-154 (2001)
K.Yamauchi 等人:“用于自主机器人的具有选择性注意架构的感觉集成神经网络”国际基于知识的智能工程系统杂志。
  • DOI:
  • 发表时间:
  • 期刊:
  • 影响因子:
    0
  • 作者:
  • 通讯作者:
{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

山内 康一郎其他文献

Inverse Recall を用いた睡眠期間付き追記学習
使用逆回忆在睡眠期间进行额外学习
  • DOI:
  • 发表时间:
    2019
  • 期刊:
  • 影响因子:
    0
  • 作者:
    佐藤 和也;山内 康一郎
  • 通讯作者:
    山内 康一郎

山内 康一郎的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('山内 康一郎', 18)}}的其他基金

A Kernelnalized learning method as a model of insect-brain and its application for an incremental learning algorithm for embedded machine learning systems
作为昆虫大脑模型的内核化学习方法及其在嵌入式机器学习系统增量学习算法中的应用
  • 批准号:
    22K12176
  • 财政年份:
    2022
  • 资助金额:
    $ 0.96万
  • 项目类别:
    Grant-in-Aid for Scientific Research (C)
ひらめきに見るヒトの事前知識利用メカニズムの解明とマシンラーニングの高速化
阐明人类如何通过灵感和加速机器学习来使用先验知识的机制
  • 批准号:
    15700117
  • 财政年份:
    2003
  • 资助金额:
    $ 0.96万
  • 项目类别:
    Grant-in-Aid for Young Scientists (B)
速い学習と遅い学習を組み合わせた 高速適応能力を損なわない素子数削減法
一种在不牺牲高速适应能力的情况下结合快速学习和慢速学习的减少元素数量的方法
  • 批准号:
    11780264
  • 财政年份:
    1999
  • 资助金额:
    $ 0.96万
  • 项目类别:
    Grant-in-Aid for Encouragement of Young Scientists (A)
追加学習を行なう神経回路モデルによる事例ベース推論システムの構築
使用执行额外学习的神经回路模型构建基于示例的推理系统
  • 批准号:
    09780327
  • 财政年份:
    1997
  • 资助金额:
    $ 0.96万
  • 项目类别:
    Grant-in-Aid for Encouragement of Young Scientists (A)
異種センサー情報の統合による概念の教師なし学習
通过集成异构传感器信息进行无监督概念学习
  • 批准号:
    08780347
  • 财政年份:
    1996
  • 资助金额:
    $ 0.96万
  • 项目类别:
    Grant-in-Aid for Encouragement of Young Scientists (A)
神経回路モデルによる干渉を受ける記憶パターンの想起と追記学習
受神经回路模型影响的记忆模式的回忆和额外学习
  • 批准号:
    07858046
  • 财政年份:
    1995
  • 资助金额:
    $ 0.96万
  • 项目类别:
    Grant-in-Aid for Encouragement of Young Scientists (A)

相似海外基金

部分的な教師データを用いた人間参加型深層学習による細胞追跡手法の開発
使用部分训练数据的人类参与式深度学习开发细胞跟踪方法
  • 批准号:
    24K20885
  • 财政年份:
    2024
  • 资助金额:
    $ 0.96万
  • 项目类别:
    Grant-in-Aid for Early-Career Scientists
深層学習を用いた、追加データ不要かつ対象作物によらない高速作物検出システムの開発
利用深度学习开发不需要额外数据且不依赖于目标作物的高速作物检测系统
  • 批准号:
    24KJ0262
  • 财政年份:
    2024
  • 资助金额:
    $ 0.96万
  • 项目类别:
    Grant-in-Aid for JSPS Fellows
A Kernelnalized learning method as a model of insect-brain and its application for an incremental learning algorithm for embedded machine learning systems
作为昆虫大脑模型的内核化学习方法及其在嵌入式机器学习系统增量学习算法中的应用
  • 批准号:
    22K12176
  • 财政年份:
    2022
  • 资助金额:
    $ 0.96万
  • 项目类别:
    Grant-in-Aid for Scientific Research (C)
Development of a flood disaster prevention education program with additional learning for urban flooding from inland waters
制定洪水灾害预防教育计划,并额外学习内陆水域的城市洪水
  • 批准号:
    20K22225
  • 财政年份:
    2020
  • 资助金额:
    $ 0.96万
  • 项目类别:
    Grant-in-Aid for Research Activity Start-up
Development of tracking integrated Raman spectroscopy to measure myosin state distribution in a sarcomere under physiological environment
开发追踪集成拉曼光谱测量生理环境下肌节肌球蛋白状态分布
  • 批准号:
    20K15762
  • 财政年份:
    2020
  • 资助金额:
    $ 0.96万
  • 项目类别:
    Grant-in-Aid for Early-Career Scientists
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了