ひらめきに見るヒトの事前知識利用メカニズムの解明とマシンラーニングの高速化

阐明人类如何通过灵感和加速机器学习来使用先验知识的机制

基本信息

批准号：
15700117
负责人：
山内康一郎
金额：
$ 1.41万
依托单位：
Hokkaido University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Young Scientists (B)
财政年份：
2003
资助国家：
日本
起止时间：
2003 至 2004
项目状态：
已结题

项目摘要

本研究は、ヒトの事前知識利用戦略を心理実験によって調査し、その知見をヒントにした高速マシンラーニングアルゴリズムを構築することが目標である。平成16年度は、平成15年度で構築したモデルの1)妥当性検証、2)改良および3)応用の三方向から研究を進めた。平成15年度に構築したモデルとは、学習の初期段階に複数のデータモデルを事前知識を使って複数生成し、その中で尤もらしいものを解として投機的に提出するものであった。この手法では学習の初期段階に解を提出するため、運がよければ非常に高速に解にたどり着けるが、正しくなければ、従来型の学習法で時間をかけて学習を行う。1)モデルの妥当性検証(心理実験)H15年度に構築した心理実験課題の、結果の信憑性を高めるため、インタビュー不要の課題へと改良した。具体的には提示されたサンプルの順序が、解を思いつくタイミングに与える影響を調査することによって、ヒトの事前知識の利用戦略を調査する。この実験では最初に提示されるサンプルから、どのような解候補が生成されるかを検証し、どのタイミングで解を提出するかも検証する。いくつかの尤もらしい解候補の中の一つが否定される度に解候補を提出する傾向が強いことが判明した。2)モデルの改良H15年度に開発した学習機械は、単純に過去の学習結果を蓄積し、その中から提示サンプルに合うものを探し出すというものであった。しかしながら、その単純さゆえに、過去の知識が利用可能な課題であっても、持てる知識を適用することができないケースが存在した。そのため、過去の学習結果を再利用しやすいように細分化して保持し、提示されるパターンに合うように変化させて適用するシステムを開発した。今後、心理実験結果をヒントとして、解に対する確信度をエントロピーで表し、エントロピーが大きく下がる瞬間に解を提出する手法を導入する。3)応用応用分野として、オンラインモデル選択(規則抽出)に応用した。具体的には高次元入力の中で、お互いに関係のある変数を抽出する課題を取り上げ、これをオンライン(リアルタイム)で実現する手法に適用した。この手法は上記モデルと似た手法だが、ロボット等のセンサー情報をサンプリングし、それを短時間窓を通して時間軸に沿って観測し、部分線形性を仮定した短時間相関による候補生成を行う点が異なる。

这项研究的目的是通过心理实验调查人类的先验知识利用策略，并构建受这些发现启发的高速机器学习算法。 2004年，研究是从三个方向进行的：1）有效性验证，2）改进和3）在2003年构建的模型的应用。2003年构建的模型是在学习的初始阶段在学习的初始阶段使用先验知识生成多个数据模型，然后使用最可能的解决方案进行投机性提交。此方法将解决方案提交到学习的早期阶段，因此，如果您很幸运，您可以很快获得解决方案，但是如果您不正确，则会花时间使用传统的学习方法学习。 1）模型（心理实验）的有效性验证，以提高2003年构建的心理实验任务结果的可信度，该问题已改善到不需要访谈的问题。具体而言，我们通过检查提出的样本顺序对解决方案时间的影响来研究使用人类先验知识的策略。在本实验中，我们检查了首先提出的样本中生成了哪种解决方案候选物，还可以验证解决方案何时提交。已经发现，每当拒绝几个合理的解决方案之一中的一项时，都有强烈的趋势提交候选解决方案。 2）改进的模型2013年开发的学习机只是积累了过去的学习结果，并发现哪一个适合提出的样本。但是，由于其简单性，在某些情况下，即使有过去的知识可用，也无法应用其知识。因此，我们开发了一个系统，在该系统中，过去的学习结果被细分和维护，以使它们更易于重复使用，然后更改并应用于它们以适合提出的模式。将来，我们将介绍一种方法，其中溶液的置信度表示为熵，并且在熵下降时提交溶液。 3）应用于在线模型选择（规则提取）作为应用程序字段。具体而言，我们讨论了在高维输入中提取彼此相关的变量的问题，并将其应用于实时实现方法。该方法类似于上述模型，除了它不同之处在于它从机器人中采样了传感器信息，通过短时窗口沿时间轴观察它，并假定使用短期相关性（假设部分线性）生成候选者。