Construction of metric space for datasets and learning algorithms

数据集和学习算法的度量空间构建

• 批准号: 22H03620
• 负责人: 佐藤 真一
• 金额: $ 11.15万
• 依托单位: National Institute of Informatics
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Scientific Research (B)
• 财政年份: 2022
• 资助国家: 日本
• 起止时间: 2022-04-01 至 2025-03-31
• 项目状态: 未结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-22H03620/
• 关键词: 機械学習; データセット; 計量空間; 学習データ; 学習アルゴリズム; 転移学習; 学習アルゴリズム評価; 学習データ評価

深層学習等機械学習に基づく手法は、タスクを規定するデータセットに基づき、学習アルゴリズムにより処理器を生成し、その性能評価はデータセットにより行う。データセットに応じた学習アルゴリズムの検討、学習アルゴリズムの解析・評価に適したデータセットの選択等は本質的に重要である。本研究では、こうしたデータセットや学習アルゴリズムをより深く解析するための、データセット並びに学習アルゴリズムの計量に関する研究を行う。データセット間の距離比較ができるデータセット計量ベクトル空間、学習アルゴリズム間の距離比較ができる学習アルゴリズム計量ベクトル空間、さらにはこれらを統合してデータセットと学習アルゴリズムとの間の距離比較ができる計量ベクトル空間の実現を目指す。これにより、相互に似た性質を持つデータセットや学習アルゴリズムの把握、多くのデータセットや学習アルゴリズムの主たる特徴にはどのようなものがあるのかの観測、新たなタスクに最も適した学習アルゴリズムの選択、転移学習のための事前学習モデルのために最も適した既存データセットの選択などが可能となる。2022年度は主としてデータセットの計量空間の構築法について検討を行った。より具体的には、複数のデータセットについて特定のタスク(これもデータセットにより定義される)への転移可能性を示すようなベクトル空間の構築法を提案し、実際に転移学習を実施することなく転移可能性のより高いデータセットを効果的に選別可能であることを示した。この空間がデータセット計量空間として利用可能であると考えている。

在基于机器学习（例如深度学习）的方法中，使用基于定义任务的数据集的学习算法生成处理器，并使用数据集评估其性能。根据数据集考虑学习算法，并选择适合分析和评估学习算法的数据集本质上很重要。这项研究将研究数据集和学习算法的测量，以进一步对这些数据集和学习算法进行更深入的分析。我们旨在实现一个数据集计量矢量空间，以比较数据集之间的距离，一个学习算法计量矢量空间，可以比较学习算法之间的距离和计量向量空间，以比较数据集和学习算法之间的距离。这使我们能够理解具有相似属性的数据集和学习算法，观察许多数据集和学习算法的主要特征，选择最适合新任务的学习算法，选择最适合用于转移学习的预读模型的现有数据集，等等。在2022财年，我们主要讨论了如何构建数据集的测量空间。更具体地说，我们提出了一种构造向量空间的方法，该方法显示了多个数据集转换为特定任务的可能性（也由数据集定义），表明可以有效地选择具有较高可传递性的数据集而无需实际进行传输学习。我们认为，该空间可以用作数据集计量空间。

项目成果

Towards Robust Person Re-identification by Defending Against Universal Attackers

通过防御通用攻击者实现稳健的人员重新识别

• DOI: 10.1109/tpami.2022.3199013
• 发表时间: 2023
• 期刊: IEEE Transactions on Pattern Analysis and Machine Intelligence
• 影响因子: 23.6
• 作者: Fengxiang Yang;Juanjuan Weng;Zhun Zhong;Hong Liu;Zheng Wang;Zhiming Luo;Donglin Cao;Shaozi Li;Shin'ichi Satoh;Nicu Sebe
• 通讯作者: Nicu Sebe

Predicting the Effect of Formula-driven Supervised Learning with Intrinsic Dimension

用内在维度预测公式驱动的监督学习的效果

• 发表时间: 2022
• 作者: Yusuke Kondo;Yoshihiro Fukuhara;Shin'ichi Satoh
• 通讯作者: Shin'ichi Satoh

WalkingDynamicsH36M: a Benchmarking Dataset for Long-term Motion and Trajectory Forecasting

WalkingDynamicsH36M：长期运动和轨迹预测的基准数据集

• 发表时间: 2023
• 作者: Cecilia Curreli;Andreu Girbau;and Shin'ichi Satoh
• 通讯作者: and Shin'ichi Satoh

Mitigating robust overfitting via self-residual-calibration regularization

通过自残差校准正则化减轻稳健过度拟合

• DOI: 10.1016/j.artint.2023.103877
• 发表时间: 2023
• 期刊: Artificial Intelligence
• 影响因子: 14.4
• 作者: Liu Hong;Zhong Zhun;Sebe Nicu;Satoh Shin'ichi
• 通讯作者: Satoh Shin'ichi