Explainable next-generation media forensics technologies based on fake media detection and automatic fact verification

基于虚假媒体检测和自动事实验证的可解释的下一代媒体取证技术

基本信息

批准号：
21H04906
负责人：
山岸順一
金额：
$ 26.87万
依托单位：
National Institute of Informatics
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (A)
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-05 至 2025-03-31
项目状态：
未结题

项目摘要

本物に類似したフェイクメディアが機械学習により容易に生成でき、フェイクニュース等不正確な情報も氾濫するインフォデミック時代の今、適切な意思決定を支援すべく、次世代メディア解析技術を提案する。まずフェイクメディアの改ざん領域を同定し根拠として表示する生体検知手法を提案する。次に常に変化するメディア生成方法に対処するため、未知のフェイクメディア生成法の検知手法を提案する。更にファクトチェックを自動化した自動ファクトチェックの高度化に取り組む。【課題1】我々は機械学習により生成されたフェイクメディアを見破る技術を開発してきた。これは入力メディアの真贋判定を行う識別技術であるが、真か偽かを予測するだけではなく、なぜ偽と判定したのか、そのエビデンスを人々が理解可能な方法で提示する必要がある。2022年度は改ざん可能性がある領域を、複数の時間解像度において同時推定する技術を提案した。また本研究成果を音声分野のトップジャーナル論文としてまとめることも行った。【課題2】メディア生成技術は常に変化する。それ故未知手法によるフェイクメディアを検出しなければ、安定的な対応は望めない。そこでフェイクメディア識別モデルの学習用データベース自身を自動拡張する事で未知手法によるフェイクメディア検出を可能にする新たな枠組みを提案し、国際学会において発表した。またフェイクメディアデータを時間をかけずに効率的に生成する手法の検討も行なった。【課題3】入力クレームの内容が正しいかどうかを自動判定する技術として自動ファクトチェックがある。根拠となる論文や情報源を自動検索、該当文章や段落を自動で選択、真偽を回答する技術である。2022年度も研究を進め、学習済みファクトチェックモデルに破壊的忘却を起こさずに、新しい情報源の知識を追加する技術を提案し、その成果を国際学会において発表した。

通过机器学习和不准确的信息（例如假新闻）也很容易地生成类似于真实事物的假媒体，我们也建议下一个代代代媒体分析技术，以支持Infodepic时代的适当决策。首先，我们提出了一种生物检测方法，该方法识别并显示假媒体的伪造区域作为证据。接下来，我们提出了一种未知的假媒体生成方法，以检测未知的假媒体生成来处理不断变化的媒体生成方法。此外，我们将致力于自动检查事实检查的自动事实检查的进步。 [作业1]我们开发了技术来检测机器学习生成的假媒体。这是一项执行输入媒体真实性的标识技术，但不仅有必要预测其是对还是错误，而且要以人们可以理解其确定原因的方式提供证据。在2022财年，我们提出了一项技术，该技术同时估计了可以在多个时间分辨率中篡改的领域。此外，这项研究的结果是作为语音领域的顶级期刊论文编辑的。 [任务2]媒体生成技术总是在变化。因此，如果您不通过未知方法检测到假媒体，则无法指望稳定的响应。因此，我们提出了一个新框架，该框架可以通过自动扩展数据库本身学习假媒体识别模型并在国际社会宣布的数据库来实现未知方法的伪造媒体检测。我们还研究了一种无需花费时间即可有效生成伪造媒体数据的方法。 [分配3]有一个自动事实检查作为一种技术，可以自动确定输入索赔的内容是否正确。这是一项根据基础和信息源自动搜索的技术，自动选择相应的句子和段落，并回答真相。我们还在2022年进行了研究，提出了一项技术，以在学到的事实检查模型中添加新的信息来源知识，并在国际社会协会中介绍了结果。