解釈可能な予測モデル獲得のための離散最適化に基づく効率良い学習アルゴリズムの研究

基于离散优化的高效学习算法研究以获得可解释的预测模型

基本信息

批准号：
20J20654
负责人：
金森憲太朗
金额：
$ 1.6万
依托单位：
Hokkaido University
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2020
资助国家：
日本
起止时间：
2020-04-24 至 2023-03-31
项目状态：
已结题

项目摘要

本研究では，機械学習の解釈可能性を実現するために，予測精度の向上以外を目的とした非標準的な機械学習問題の新たな定式化に取り組む．このような機械学習問題に対して，整数計画法をはじめとする離散最適化手法に基づく効率良いアルゴリズムを開発することを目標としている.当該年度では，前年度に引き続き，局所的な説明手法の一つである「反実仮想説明法（Counterfactual Explanation, CE）」に着目して研究を行った．CEは，機械学習モデルから望ましい予測結果を得るための特徴量の変更方法（アクション）を提示する説明手法である．当該年度では，これまでの研究成果を統合あるいは拡張することで，より実用的なCEの新しいフレームワークの開発に取り組んだ．主な研究成果として，抽出されるアクションを入力空間全体について大域的に要約するCEの新しいフレームワークを開発した．具体的には，解釈可能な機械学習モデルの一つである決定木に着目し，決定木を用いて適切なアクションを予測する「反実仮想説明木（Counterfactual Explanation Tree, CET）」を新たに導入した．また，実用上高速な離散最適化手法である確率的局所探索に整数計画法を組合せることで，CETを学習する効率良いアルゴリズムを提案した．この成果をまとめた論文は，機械学習分野の最難関会議の一つである国際会議AISTATS2022に採択（採択率 29.2%）された.CE以外の成果としては，解釈可能な機械学習分野で近年重要視されているRashomon効果の分析方法の研究に取り組み，共著論文が機械学習分野の国際会議MLDM2022に採択（採択率 33%）された.最後に，これまでに行った整数計画法に基づく解釈可能な機械学習に関する研究成果をまとめ，学位論文（博士）を執筆し，在学期間を短縮して博士の学位を取得した．

在本研究中，为了实现机器学习的可解释性，我们将致力于非标准机器学习问题的新表述，其目的不是提高预测精度。我们的目标是开发基于离散优化方法的高效算法，例如针对此类机器学习问题的整数规划。我们的研究重点是其中一种方法“反事实解释（CE）”。 CE 是一种解释性方法，它提出了改变特征以从机器学习模型获得所需预测结果的方法（动作）。在本财年，我们致力于通过整合或扩展以前的研究成果，开发一个更实用的CE新框架。作为主要研究成果，我们开发了一个新的 CE 框架，该框架全局总结了整个输入空间上提取的操作。具体来说，我们专注于决策树，这是可解释的机器学习模型之一，并创建了一种新的“反事实解释树（CET）”，它使用决策树来预测适当的动作。我们还提出了一种将整数规划与随机局部搜索相结合的有效学习CET算法，这是一种实用的快速离散优化方法。总结这一成果的论文被机器学习领域最难的会议之一的国际会议 AISTATS 2022 接受（接受率 29.2%）。我们正在研究被广泛认为是“罗生门效应”的分析方法。 33%）。最后，我总结了基于整数规划的可解释机器学习的研究成果，写了一篇博士论文，缩短了我获得博士学位的入学时间。

项目成果

期刊论文数量（15）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

混合整数線形計画法に基づく実現可能性を考慮した反事実的説明法

基于混合整数线性规划考虑可行性的反事实解释方法

DOI：
发表时间：
2020
期刊：
影响因子：
0
作者：
金森憲太朗;高木拓也;小林健;有村博紀
通讯作者：
有村博紀

望む結果までの手順を導くことができる「説明可能なAI」を世界で初めて開発：富士通

富士通开发出世界上第一个“可解释的人工智能”，可以指导实现预期结果的步骤

DOI：
发表时间：
期刊：
影响因子：
0
作者：
通讯作者：

Distribution-Aware Counterfactual Explanation by Mixed-Integer Linear Optimization

通过混合整数线性优化进行分布感知反事实解释

DOI：
10.1527/tjsai.36-6_c-l44
发表时间：
2021
期刊：
Transactions of the Japanese Society for Artificial Intelligence
影响因子：
0
作者：
Kanamori Kentaro;Takagi Takuya;Kobayashi Ken;Arimura Hiroki
通讯作者：
Arimura Hiroki

Ordered Counterfactual Explanation by Mixed-Integer Linear Optimization

通过混合整数线性优化进行有序反事实解释

DOI：
发表时间：
2020
期刊：
35th Conference on Aritificial Intelligence (AAAI 2021)
影响因子：
0
作者：
Kentaro Kanamori;Takuya Takagi;Ken Kobayashi;Yuichi Ike;Kento Uemura;Hiroki Arimura
通讯作者：
Hiroki Arimura

Counterfactual Explanation Trees: Transparent and Consistent Actionable Recourse with Decision Trees