ひらめきに見るヒトの事前知識利用メカニズムの解明とマシンラーニングの高速化

阐明人类如何通过灵感和加速机器学习来使用先验知识的机制

基本信息

批准号：
15700117
负责人：
山内康一郎
金额：
$ 1.41万
依托单位：
Hokkaido University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Young Scientists (B)
财政年份：
2003
资助国家：
日本
起止时间：
2003 至 2004
项目状态：
已结题

项目摘要

本研究は、ヒトの事前知識利用戦略を心理実験によって調査し、その知見をヒントにした高速マシンラーニングアルゴリズムを構築することが目標である。平成16年度は、平成15年度で構築したモデルの1)妥当性検証、2)改良および3)応用の三方向から研究を進めた。平成15年度に構築したモデルとは、学習の初期段階に複数のデータモデルを事前知識を使って複数生成し、その中で尤もらしいものを解として投機的に提出するものであった。この手法では学習の初期段階に解を提出するため、運がよければ非常に高速に解にたどり着けるが、正しくなければ、従来型の学習法で時間をかけて学習を行う。1)モデルの妥当性検証(心理実験)H15年度に構築した心理実験課題の、結果の信憑性を高めるため、インタビュー不要の課題へと改良した。具体的には提示されたサンプルの順序が、解を思いつくタイミングに与える影響を調査することによって、ヒトの事前知識の利用戦略を調査する。この実験では最初に提示されるサンプルから、どのような解候補が生成されるかを検証し、どのタイミングで解を提出するかも検証する。いくつかの尤もらしい解候補の中の一つが否定される度に解候補を提出する傾向が強いことが判明した。2)モデルの改良H15年度に開発した学習機械は、単純に過去の学習結果を蓄積し、その中から提示サンプルに合うものを探し出すというものであった。しかしながら、その単純さゆえに、過去の知識が利用可能な課題であっても、持てる知識を適用することができないケースが存在した。そのため、過去の学習結果を再利用しやすいように細分化して保持し、提示されるパターンに合うように変化させて適用するシステムを開発した。今後、心理実験結果をヒントとして、解に対する確信度をエントロピーで表し、エントロピーが大きく下がる瞬間に解を提出する手法を導入する。3)応用応用分野として、オンラインモデル選択(規則抽出)に応用した。具体的には高次元入力の中で、お互いに関係のある変数を抽出する課題を取り上げ、これをオンライン(リアルタイム)で実現する手法に適用した。この手法は上記モデルと似た手法だが、ロボット等のセンサー情報をサンプリングし、それを短時間窓を通して時間軸に沿って観測し、部分線形性を仮定した短時間相関による候補生成を行う点が異なる。

本研究的目标是通过心理学实验研究人类先验知识的利用策略，并基于这些知识构建高速机器学习算法。 2004财年，从三个方向进行了研究：1）验证，2）改进，3）2003财年构建的模型的应用。 2003年构建的模型是在学习的初始阶段利用先验知识生成多个数据模型，并推测性地提交最合理的一个作为解决方案。此方法会在学习过程的早期提交解决方案，因此如果幸运的话，您会很快找到解决方案，但如果运气不好，您将花费更多时间使用传统的学习方法。 1）模型有效性验证（心理实验）为了增加2005财年构建的心理实验任务结果的可信度，我们将该任务改进为不需要访谈的任务。具体来说，我们通过研究呈现样本的顺序对提出解决方案的时间的影响来研究人类使用先验知识的策略。在此实验中，我们将检查从提供的第一个样本中生成了什么样的候选解决方案，并且我们还将检查何时提交解决方案。事实证明，每当几个看似合理的候选解决方案之一被拒绝时，就有一种强烈的趋势要提交一个候选解决方案。 2) 改进模型 2005 财年开发的学习机只是积累了过去的学习结果，并找到了与当前样本相匹配的结果。然而，由于其简单性，在某些情况下，即使是可以使用过去知识的问题也无法应用现有知识。因此，我们开发了一个系统，将过去的学习结果分段存储以便于重用，并更改和应用它们以匹配所呈现的模式。未来，以心理学实验的结果为线索，我们将引入一种将解的置信度表示为熵的方法，并在熵显着下降的时刻提交解。 3）作为应用领域，应用于在线模型选择（规则提取）。具体来说，我们解决了从高维输入中提取彼此相关的变量的问题，并将其应用于可以在线（实时）实现的方法。该方法与上述模型类似，但不同之处在于，它从机器人等处采样传感器信息，通过短时间窗口沿时间轴对其进行观察，并通过假设部分线性不同的短时相关性来生成候选。