Detection of Lies/Misinformation Based on Dynamic Epistemic Logic, and Application to a Game with Incomplete Information

基于动态认知逻辑的谎言/错误信息检测及其在不完全信息博弈中的应用

• 批准号: 21K17813
• 负责人: 野村 尚新
• 金额: $ 3万
• 依托单位: Japan Advanced Institute of Science and Technology (2022)Kwansei Gakuin University (2021)
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Early-Career Scientists
• 财政年份: 2021
• 资助国家: 日本
• 起止时间: 2021-04-01 至 2023-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-21K17813/
• 关键词: 動的認識論理; 様相論理; 認識論理; 不完全情報ゲーム; 人工知能; 誤情報探知; 定理自動証明

本研究は、認識の変化を形式的に扱う論理である動的認識論理を用いて、これの発展体系として嘘や誤情報といった不確かな情報を形式的に扱うことを目的としている。昨年度は、OpenAI社のChatGPT（GPT-3, GPT-4）を筆頭に大規模言語モデルがあらゆる場面で話題を席巻した。それに伴いChatGPTの応答に見られるhallucinationとよばれる現象、偽情報をあたかも本当のことのようにアウトプットする現象（深層学習モデルに人間の意図に相当するものを持ち合わせていないが、端的に言えば虚情報）が多くの人に知られた。同様に、Deepfakeなどの映像や画像における生成系AIのめざましい発展と、それらが偽情報の作成に悪用され始めたことでインターネット上における嘘情報を見抜く必要性が広く認知された年であったと言える。また、ChatGPT（GPT-3、GPT-4）の驚異的な性能が本研究の研究手法にも影響を与えると考えている。たとえば、従来困難だった自然言語から論理式への変換作業を、GPT-3を適切な教師データでファインチューニングすることで容易にすることが可能である。そのため、昨年度は、この変換作業を通じて、SNSやブログなど特定の文脈で暗躍するチャットボットの嘘情報に対して、本研究の嘘探知の仕組みを適用できる可能性を検討した。GPTのファインチューニングを適切に活用することで、自然言語の論理式への変換や様相論理のモデル設計など、これまでの熟練者しかできなかった作業を容易化することができる。それに伴い、形式論理学の研究が実社会で応用される可能性が格段に高まったと言える。今後も生成AIを効果的に活用し、認識論理学の研究への応用可能性を見定めていきたい。

这项研究旨在使用动态意识逻辑正式处理不确定的信息，例如谎言和错误信息作为进化系统，这是一种正式的意识变化的逻辑。去年，由OpenAI的Chatgpt（GPT-3，GPT-4）领导的大型语言模型在所有情况下都占据了对话的主题。结果，许多人已经了解了被称为幻觉的现象，该现象在chatgpt的回应中可以看到，这些现象会输出错误的信息，就像它是真实的（深度学习模型没有任何等同于人类意图的东西，但简单地说，简单地说）。同样，可以说，今年是AI在视频和诸如DeepFake之类的图像中的显着发展以及在互联网上发现虚假信息的需求被广泛认为是AI在视频和图像中的显着发展，并且随着它们在创建虚假信息时被滥用时。我们还认为，Chatgpt（GPT-3，GPT-4）的令人难以置信的表现将对本研究的研究方法产生影响。例如，通过使用适当的教师数据将自然语言转换为逻辑表达式的常规困难任务可以轻松进行逻辑表达式。因此，去年，通过这项转换工作，我们考虑了该研究的谎言检测机制可以应用于在特定环境（例如社交媒体和博客）中运行的聊天机器人的虚假信息。通过适当利用GPT中的微调，可以促进只有经验丰富的专家才能完成的任务，例如转换自然语言逻辑公式和设计模态逻辑模型。结果，可以说，在现实生活中应用正式逻辑研究的可能性急剧增加。将来，我们希望继续有效地利用AI代并确定应用认知逻辑研究的可能性。

项目成果

議論フレームワーク上の正当性を示す負担に基づく論証評価方法

一种基于论证框架有效性证明责任的论证评估方法

• 发表时间: 2022
• 期刊: 人工知能学 会第120 回人工知能基本問題研究会（SIG-FPAI）議事録
• 作者: 野村尚新;高橋和子
• 通讯作者: 高橋和子

歴史記述の自動生成、及び、物語り論による哲学的基礎づけ

基于叙事理论自动生成历史描述和哲学基础

• 发表时间: 2021
• 作者: 野村尚新;高橋和子;野村尚新
• 通讯作者: 野村尚新

Hybrid Reasoning Using Weighted Bipolar Argumentation Framework for Legal Simulation

使用加权双极性论证框架进行法律模拟的混合推理

• 发表时间: 2021
• 期刊: The Proceedings of Fifteen International Workshop on Juris-informatics (JURISIN2021),
• 作者: K. Nishihana;S. Nomura;and K. Takahashi.
• 通讯作者: and K. Takahashi.