情報爆発時代のロバストな自動チューニングシステムに向けた数理的基盤技術の研究

信息爆炸时代鲁棒自整定系统数学基础技术研究

• 批准号: 19024018
• 负责人: 須田 礼仁
• 金额: $ 4.22万
• 依托单位: The University of Tokyo
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Scientific Research on Priority Areas
• 财政年份: 2007
• 资助国家: 日本
• 起止时间: 2007 至 2008
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-19024018/
• 关键词: 自動チューニング; 逐次実験計画; Bayes統計; 機械学習; 性能モデル; 統計科学; 数理工学; 行列計算アルゴリズム; 実験計画; 逐次統計; ハイパフォーマンスコンピューティング; 情報爆発; 性能評価; 反復法

情報爆発時代のソフトウェアは, 質・量とも爆発的に大きくなる情報を有効に活用するため, それとおなじくらい爆発的に拡大する計算・通信・記憶資源の多様性に, 柔軟かつロバストに適応する能力を備えなければならない. このような適応能力(以下総じて「自動チューニング機能」と呼ぶ)は, 一般に情報収集→推定→最適化→実行制御という流れで実現される. 本研究では上記の流れの4つの部分のうち, 計算環境や応用分野への依存が少なく, 数理の世界で表現できる推定と最適化の部分に焦点を当て, 自動チューニングの数理の普遍的構造を明らかにし, 情報爆発時代の資源とデータに柔軟かつ確実に適応するシステムを実現するために必要となるロバストな自動チューニング機構の数理的基盤を構築することを目的とする.平成20年度は2つのサブテーマについて特に注力して研究を推進した. 「オンライン自動チューニングのための逐次実験計画」では,一般のBayesモデルにおいて性能を適切に学習できなくなる場合があることを指摘し, そのような事態を確実に回避できるようなBayesモデルの定式化を行った. また, そのようなBayesモデルを具体的に示すことにより, 確実に性能を学習して, 最適解に近づいてゆける手法を確立した. また, 「未知の組み合わせにおける性能の推定」では, 連立一次方程式の反復解法ライブラリであるLisをターゲットとして, 部分的な実験データから未測定のパラメタの組み合わせにおける収束・発散および所要時間を予測することを試みた. その結果, パラメタ探索を効率化する複数の手法が得られた. これらの手法は, 実験および最適化の目的関数によって使い分けるものである. このほか, 自動チューニングとその周辺のさまざまな研究課題に取り組み, また, 3年連続で国際ワークショップを主催し, 自動チューニング研究を世界的にけん引した.

在信息爆炸的时代，软件需要能够灵活、鲁棒地适应爆炸性增长的计算、通信和存储资源的多样性，才能有效利用质量和数量都呈爆炸性增长的信息这种自适应能力（以下统称为“自动调优功能”）一般是通过信息收集→估计→优化→执行控制两部分的流程来实现的。我们专注于可以在数学世界中表达的估计和优化部分，较少依赖于计算环境或应用领域，并明确自动调优的数学通用结构，使其灵活并适应环境中的资源和数据。该项目的目的是为实现可靠适应的系统所必需的强大的自动调整机制建立数学基础。2008 财年，我们将研究重点放在两个子主题上。在《在线自动调优的顺序实验设计》中，我们指出一般的贝叶斯模型可能无法适当地学习性能，我们的目标是制定能够可靠地避免这种情况的贝叶斯模型，此外，还专门演示了这种情况。贝叶斯模型，我们建立了一种能够可靠地学习性能并逼近最优解的方法。此外，在“估计未知组合中的性能”中，我们针对联立线性方程组迭代解库Lis，我们尝试从部分实验数据中预测未测量参数组合的收敛/发散和所需时间，从而提高了参数搜索的效率。此外，我们还致力于各种与自动调整相关的研究问题，并连续三年参与国际工作。他在自调整研究方面处于世界领先地位。

项目成果

A Dynamic Programming Approach to Optimizing the Blocking Strategy for the Householder QR Decomposition

优化户主二维码分解拦截策略的动态规划方法

• 发表时间: 2008
• 作者: T.Fukaya;Y.Yamamoto;S.-L.Zhang
• 通讯作者: S.-L.Zhang

特異値計算のためのさまざまなシフト戦略に対する漸近的収束牲解析

奇异值计算的各种平移策略的渐近收敛分析

• 发表时间: 2007
• 作者: 山本 有作;木村 欣司;中村 佳正
• 通讯作者: 中村 佳正

LOBPCGにおける段階的収束とwindowの効果について

关于LOBPCG中的逐渐收敛和窗口效应

• 发表时间: 2008
• 作者: Nowak D;Ogawa S;Muschen M;Kato M;Kawamata N;Meixel A;Nowak V;Kim HS;Kang S;Paquette R;Chang MS;Thoenissen NH;Mossner M;Hofmann WK;Kohlmann A;Weiss T;Haferlach T;Haferlach C;Koeffler HP.;今村俊幸
• 通讯作者: 今村俊幸

Multi-Master Divisible Loadスケジューリングの最適化と漸近性能

多Master可分负载调度优化及渐近性能

• 发表时间: 2007
• 作者: 宮田 考史;岩崎 雅吏;山本 有作;張 紹良;須田 礼仁
• 通讯作者: 須田 礼仁

オンライン自動チューニングのためのBayes逐次実験計画の解析モデルによる性能評価

使用贝叶斯顺序实验设计分析模型进行在线自动调整性能评估

• 发表时间: 2008
• 作者: 藤井昭宏;小柳義夫;T. Imamura;R. Suda;須田 礼仁
• 通讯作者: 須田 礼仁