Dynamical properties and computational capability of Reservoir Computing

油藏计算的动力学特性和计算能力

• 批准号: 22KJ1959
• 负责人: 高須 正太郎
• 金额: $ 1.6万
• 依托单位: Kyoto University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for JSPS Fellows
• 财政年份: 2023
• 资助国家: 日本
• 起止时间: 2023-03-08 至 2025-03-31
• 项目状态: 未结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-22KJ1959/
• 关键词: リカレントニューラルネットワーク; レザバー計算; カオスの縁; 平均場理論; ダイナミクス; 非線形

本研究では、Recurrent Neural Network（以下、RNN）のダイナミクスと計算性能の関係を調べることで、レザバー計算の新たな指導原理を確立することを目指している。本年度は、物理レザバー計算では現実的な設定である、入力がスパースであるRNNのダイナミクスを調べた。素子数無限大の極限において動的平均場理論を適用することで、入力を部分的に受けるRNNの条件付き最大リアプノフ指数を解析的に求めることに成功した。その結果、RNNのカオスダイナミクスを抑制し、Echo State Propertyを成立させるために必要な入力結合率の下限が存在することがわかった。本結果は、複数の学会にて報告しており、現在英文雑誌への投稿に向けた準備中である。また、RNNのダイナミクスの非線形性と非線形演算性能との関係を調べるために、タスクに依存しない計算性能の指標であるInformation Processing Capacity（以下、IPC）に着目し、非線形RNNのIPCと線形RNNのIPCの相関を数値計算によって求めた。その結果、RNNが不安定性の縁（非線形RNNの場合は「カオスの縁」とも呼ばれる）に近づくほど、非線形RNNと線形RNNの計算性能が類似するという、直感に反する結果を得ることができた。本結果は、日本物理学会春季大会にて報告しており、こちらも論文投稿に向けた準備を進めている。

在这项研究中，我们的目标是通过研究循环神经网络（RNN）的动力学和计算性能之间的关系来建立油藏计算的新指导原则。今年，我们研究了具有稀疏输入的 RNN 的动力学，这是物理油藏计算的现实设置。通过在无限数量的元素限制下应用动态平均场理论，我们成功地分析找到了部分接收输入的 RNN 的条件最大 Lyapunov 指数。结果发现，抑制 RNN 的混沌动力学和建立回波状态特性所需的输入耦合率存在下限。这些结果已在多个学术会议上报告，目前正在准备提交给英文期刊。此外，为了研究RNN动力学的非线性与非线性计算性能之间的关系，我们重点关注信息处理能力（以下简称IPC），它是独立于任务的计算性能指标，IPC的相关性为。通过数值计算确定。结果，我们得到了违反直觉的结果：RNN 越接近不稳定边缘（在非线性 RNN 的情况下也称为“混沌边缘”），非线性和线性 RNN 的计算性能就越相似。 。这些结果已在日本物理学会春季会议上报告，我们也正在准备提交论文。

项目成果

部分的に入力を受けるRNNのダイナミクスと計算性能

接收部分输入的 RNN 的动力学和计算性能

• 发表时间: 2022
• 作者: 高須正太郎; 青柳富誌生
• 通讯作者: 青柳富誌生