Stiefel多様体上最適化のための新Cayley変換理論とデータサイエンス応用

用于 Stiefel 流形优化的新凯莱变换理论和数据科学应用

• 批准号: 22KJ1270
• 负责人: 久米 啓太
• 金额: $ 1.41万
• 依托单位: Tokyo Institute of Technology
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for JSPS Fellows
• 财政年份: 2023
• 资助国家: 日本
• 起止时间: 2023-03-08 至 2024-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-22KJ1270/
• 关键词: 多様体上最適化; Cayley変換; Stiefel多様体; 直交群; 非凸最適化; 主成分分析

本研究の目標は，多くのデータサイエンス技術応用の基盤的な問題「Stiefel多様体上最適化問題」を高速かつ数値安定的に求解できる新しい最適化戦略を実現することである．2022年度は「Stiefel多様体上最適化問題」をよりシンプルな「ユークリッド空間上最適化問題」に緩和して解くCayleyパラメータ表現法の数値不安定性解消に取り組んだ．Cayleyパラメータ表現法の数値不安定性は「Stiefel多様体上最適化問題」の緩和問題を解くことに起因している．提案している動的Cayleyパラメータ表現法は「Stiefel多様体上最適化問題」の等価問題である「複数の『ユークリッド空間上最適化問題』」を解くため，「Stiefel多様体上最適化問題」を数値安定的に求解できる．動的Cayleyパラメータ表現法では，それぞれの「ユークリッド空間上最適化問題」に対し既知のユークリッド空間上最適化アルゴリズムを適用可能である．よって，高速な収束性能を有するアルゴリズムを適用することで高速なStiefel多様体上最適化アルゴリズムの実現が期待できる．また，2022年度では動的Cayleyパラメータ表現法の統一的な収束解析に取り組んだ．この解析により，幅広いクラスのユークリッド空間上最適化アルゴリズム(勾配降下法や共役勾配法、Nesterov加速勾配法等)を動的Cayleyパラメータ表現法内で採用した場合に，生成点列の停留点に関する大域的収束性が保証される．Cayleyパラメータ表現法に関する研究成果を纏めた論文は数理最適化分野のQ1ジャーナル(Optimization)に掲載されている．動的Cayleyパラメータ表現法に関する研究成果を国内会議で複数発表している．

这项研究的目的是实现一种新的优化策略，该策略可以在许多方面迅速而数值稳定地解决许多数据科学技术应用的基本问题，即“ Stiefel歧管上的优化问题”。在2022财年中，我们努力解决Cayley参数表示方法的数值不稳定性，该方法可以通过将“ Stiefel歧管优化问题”缓解为更简单的“ Euclidean Space优化问题”来解决。 Cayley参数表示方法的数值不稳定归因于解决“ Stiefel歧管优化问题”的缓解问题。提出的动态Cayley参数表示方法解决了“多个“欧几里得空间优化问题”，这是“ Stiefel歧管优化问题”的等效问题，因此它可以解决“ Stiefel歧管优化问题”在数值上稳定。动态cayley参数的方法允许应用于已知的Euctean spatial spatial spatial spatial spatiation Algorem euct e euct e euct e euct e euct e euct e e euct e e euct e e e e euct e。通过应用高速收敛性能的算法，预计可以实现高速静态歧管优化算法。在动态的cayley参数表示方法中采用了下降，共轭梯度，Nesterov加速梯度等）。汇编有关Cayley参数表达方法研究结果的论文发表在数学优化领域的Q1期刊（优化）中。在国内会议上，已经提出了有关动态Cayley参数表达方法的几项研究结果。

项目成果

Computational Tools toward Cayley Parametrization Strategy for Optimization with Generalized Orthogonality Constraints

用于具有广义正交性约束优化的凯莱参数化策略的计算工具

• 发表时间: 2021
• 作者: Keita Kume;Isao Yamada
• 通讯作者: Isao Yamada

山田研究室

山田研究所

Cayley Parametrization Techniques for Optimization over the Stiefel manifold

用于 Stiefel 流形优化的 Cayley 参数化技术

• 发表时间: 2022
• 作者: Keita Kume;Isao Yamada
• 通讯作者: Isao Yamada

A Conjugate Gradient-type Algorithm with Adaptive Localized Cayley Parametrization for Optimization over Stiefel Manifold

Stiefel流形优化的自适应局部凯莱参数化共轭梯度算法

• 发表时间: 2022
• 作者: Kume Keita;Yamada Isao
• 通讯作者: Yamada Isao

Keita Kume A Global Cayley Parametrization of Stiefel Manifold for Direct Utilization of Optimization Mechanisms Over Vector Spaces

Keita Kume 用于直接利用向量空间优化机制的 Stiefel 流形的全局 Cayley 参数化

• 发表时间: 2021
• 作者: Keita Kume;Isao Yamada
• 通讯作者: Isao Yamada