SNSに起因する青少年問題対策のためのAI技術を用いたサイバー防犯システムの構築

利用AI技术构建网络犯罪预防体系，应对SNS引发的青少年问题

• 批准号: 21K02411
• 负责人: 池辺 正典
• 金额: $ 1.25万
• 依托单位: Bunkyo University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Scientific Research (C)
• 财政年份: 2021
• 资助国家: 日本
• 起止时间: 2021-04-01 至 2024-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-21K02411/
• 关键词: サイバー防犯ボランティア; 違法有害情報; SNS; テキストマイニング; 機械学習; 青少年問題対策; Webマイニング

SNS上において「青少年の有害情報の閲覧機会の最小化」を実現するために，本研究では，問題ツイートへの都道府県警察による注意喚起の取り組みを補助するために，サイバー防犯ボランティア団体のネットパトロールの情報を各都道府県警察と情報共有するためのシステムを提供することを目的としている．上記目的を満たすための研究計画として，2022年度は「注意喚起追跡・ノイズ除去・地域判定・有害判定機能の実装」を目的とした計画を進めた．具体的な内容としては，「注意喚起追跡」のために，2021年度から収集を行っている実際に47都道府県の警察の担当者が行った注意喚起の取り組みについてのツイートを収集し，その後に当該のツイートからリプライされている対象について注意喚起の後にツイートやアカウントの削除の有無や削除された場合には，注意喚起からの経過時間の計測を行った．さらに，「ノイズ除去・地域判定・有害判定」のために，注意喚起の内容を分析することで，主な違法有害情報のパターンに分類した．そして，各違法有害情報のパターンに含まれる単語を解析することで，各パターンの特性を明らかにするとともに，含まれる地域名等により地域性の判断を行った．そして，2021年度に引き続き違法有害情報の学習データの精度向上やトレンドの変化に対応するために，2022年度も継続して違法有害情報の可能性のあるツイートの収集するために，構築したシステムのツイート収集機能について年間を通して運用した．

为了“最大限度地减少年轻人在SNS上查看有害信息的机会”，本研究将利用网络犯罪预防志愿者小组的网络巡逻来协助县警察提高对有问题的推文的认识。与各都道府县警察共享信息的系统。作为实现上述目标的研究计划，我们在 2022 财年进行了一项旨在“实现警报跟踪、噪声消除、区域确定和有害确定功能”的计划。具体来说，为了“跟踪警报”，我们将收集有关 47 个都道府县警察人员实际开展的警报工作的推文，这些推文是我们自 2021 财年以来一直在收集的。我们衡量了推文或帐户在推文发布后是否被删除已回复，如果已删除，我们会测量自警告以来经过的时间。此外，通过对“去噪、区域判定、有害判定”的警示内容进行分析，将信息划分为违法、有害信息的主要类型。通过对各类违法有害信息模式所包含的词语进行分析，明确了各模式的特征，并根据所包含的地域名称等判断其地域性质。为了继续提高2021年违法有害信息训练数据的准确性并应对趋势变化，我们将继续完善我们在2022年建立的收集可能包含潜在违法有害信息的推文的系统。推文采集功能全年运营。

项目成果

SNSの違法有害情報における地域判定についての研究

SNS违法有害信息区域认定研究

• 发表时间: 2022
• 作者: Michinobu Ryoko;Yamamoto Masaki;Sakai Yoshiyuki;Mikami Takahiro;Igarashi Keita;Iesato Kotoe;Takebayashi Akira;Hori Tsukasa;Tsutsumi Hiroyuki;Tsugawa Takeshi;遠藤純子・小野友紀;池辺正典，川合康央，櫻井淳
• 通讯作者: 池辺正典，川合康央，櫻井淳

Twitterを対象とした都道府県警察による青少年問題対応の注意喚起に関する地域傾向の分析

Twitter 上提醒县警察处理青少年问题的区域趋势分析

• 发表时间: 2021
• 作者: Michinobu Ryoko;Yamamoto Masaki;Sakai Yoshiyuki;Mikami Takahiro;Igarashi Keita;Iesato Kotoe;Takebayashi Akira;Hori Tsukasa;Tsutsumi Hiroyuki;Tsugawa Takeshi;遠藤純子・小野友紀;池辺正典，川合康央，櫻井淳;高野貴子;Chisato KUSUMOTO;道信良子;池辺正典，川合康央，櫻井淳
• 通讯作者: 池辺正典，川合康央，櫻井淳