Deep Fake Impact Analysis on Human Perception

深度虚假对人类感知的影响分析

• 批准号: 22K12722
• 负责人: 加藤 将貴
• 金额: $ 1.83万
• 依托单位: Kokushikan University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Scientific Research (C)
• 财政年份: 2022
• 资助国家: 日本
• 起止时间: 2022-04-01 至 2025-03-31
• 项目状态: 未结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-22K12722/
• 关键词: ディープフェイク; 信用評価

本研究は、ディープフェイクにおいて人がフェイクを本物と誤認する要素を分析し、結果として悪意のあるフェイクの拡散防止に貢献することを目的とする。かつて、画像や動画の加工は専門知識と高性能の機器・ソフトウェアが無ければ難しく、写真や動画の真正性は高いものであったが、現在ではハードウェアの高性能化とソフトウェアの進化によって、画像や動画の加工は一般化している。さらに、SNSや動画投稿サイトの利用者が著しく増加し、インパクトのある情報は正確性や真偽が十分に検証されないまま急激に拡散する。そのため、悪意や虚偽の情報を含んだ高度な技術を用いたフェイクが真実と誤認され広がった場合、深刻な影響が危惧されることから着想に至った。研究計画を推進する上で、本年度は先行研究、関連研究調査及び、既存のフェイクの中で重大な影響をもたらした事例などの情報収集に専念した。画像における信用評価では「画像そのもの」や「精度」は信用評価への関連性が低く、出所の信頼性やブランド力といった、画像に関連するコンテクストの方が信用評価への関連性が高いとされる。加えて、確証バイアスが強いものほど信用評価への関連性が高い傾向にある。本研究においても、その信用評価はフェイクに付帯するコンテクストに影響されると想定し、2023年度から本格的に実施する調査への基礎を築いた。また、ジェネレーティブAIが急拡大し、その可能性から社会に大きなインパクトを与えている。本研究と関連性が深い分野でもあるため情報収集を行った。

这项研究的目的是分析导致人们误认为深度伪造品的因素，并为防止恶意伪造品的传播做出贡献。过去，没有专业知识和高性能的设备和软件，处理图像和视频是很困难的，而且照片和视频的真实性很高，但今天，随着硬件和软件的进步，图像和视频处理已经成为平凡。此外，SNS和视频发布网站的用户数量大幅增加，高影响力的信息在没有充分验证准确性或真实性的情况下迅速传播。因此，这个想法源于担心，如果使用先进技术、包含恶意或虚假信息的假冒产品被误解为真相并传播，将会产生严重后果。在推进研究计划时，今年我们重点收集了以往研究、相关研究以及具有重大影响的现有造假案例的信息。当涉及到图像的信任评估时，图像本身及其准确性与信任评估的相关性较小，而与图像相关的上下文，例如来源的可靠性和品牌力，据说与信任评估具有较高的相关性。信任评价。此外，确认偏差越强，与信用评级的相关性就越大。在这项研究中，我们假设信任评估会受到假货周围环境的影响，并为从 2023 财年开始进行全面调查奠定了基础。此外，生成式人工智能正在迅速扩张，其潜力正在对社会产生重大影响。我们收集了该领域的信息，因为它与本研究密切相关。