Fairness-aware Machine Learing Based on the Modification of Causal Graphs

基于因果图修正的公平感知机器学习

基本信息

批准号：
21H03504
负责人：
神嶌敏弘
金额：
$ 9.57万
依托单位：
National Institute of Advanced Industrial Science and Technology
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (B)
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-01 至 2025-03-31
项目状态：
未结题

来源：
https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-21H03504/
关键词：
機械学習公平性因果推論データマイニング

项目摘要

本研究は，公平性配慮型データマイニングという機械学習分野の中でも新しい分野の研究である．この研究分野が生じた背景について述べておく．データマイニング技術の普及に伴い，与信・採用・入試など，個人の生活に大きな影響を及ぼす分野に適用されるようになった．それに伴い，人種や性別といった情報が決定に影響してしまう事例が散見されるようになった．そこで，公平な決定が得られるように，人種や性別などの情報が，与信や採用などの決定に影響を及ぼさないように，因果グラフで表されたモデルの確率表を書き換える介入を行う方法を検討する．さらに，この介入による因果モデルの修正を，クラウドソーシングを通じて，アイテムに対する試行が，他のアイテムや認知バイアスに影響される状況や，複数の因子の影響を受ける錯視図形に対する応答に関するデータを収集することで実験的に実証もする．2021年度は，因果モデルの理論面についての検討を行い，査読付き国際会議などに採録された．その他，推薦における倫理問題を扱う国際ワークショップを組織し，また国内において機械学習の公平性に関する技術情報の講演を行った．

这项研究是机器学习的一个新领域，称为公平感知数据挖掘。我先介绍一下这个研究领域的背景。随着数据挖掘技术的普及，它已经开始应用于对个人生活有重大影响的领域，例如征信、招聘、入学考试等。因此，现在在很多情况下，种族和性别等信息会影响决策。因此，为了获得公平的决策，有一种干预方法，重写因果图表示的模型的概率表，使种族和性别等信息不影响信用和雇用等决策。此外，为了通过这种干预来修改因果模型，我们将通过众包收集有关项目试验受到其他项目或认知偏差影响的情况的数据，以及对受多种因素影响的虚幻形状的反应。通过实验证明它。 2021 年，我们研究了因果模型的理论方面，我们的研究被同行评审的国际会议接受。此外，他还组织了一次关于推荐道德问题的国际研讨会，并在日本举办了有关机器学习公平性的技术信息讲座。