CAREER: Towards Data-Driven Methods to Counter Online Aggression

职业:寻找数据驱动的方法来对抗网络攻击

基本信息

  • 批准号:
    1942610
  • 负责人:
  • 金额:
    $ 54.93万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Continuing Grant
  • 财政年份:
    2020
  • 资助国家:
    美国
  • 起止时间:
    2020-05-01 至 2025-04-30
  • 项目状态:
    未结题

项目摘要

The rise of social media has enabled online aggression practices such as cyberbullying, harassment, and hate speech to reach an unprecedented scale. Some aggressors select their targets and coordinate on polarized online communities to organize attacks against their victims, inundating them with hateful or disturbing messages, videos, and images. These attacks can cause serious harm to their victims, forcing them to leave social media sites or even to contemplate self-harm. Despite the threat posed by online aggression, the problem has so far not received much attention by the computer security research community. Developing quantitative methods able to identify and mitigate such attacks is however of paramount importance to provide a safe online experience to all Internet users. This project aims to develop tools able to identify online aggression attacks in real time, allowing online services to take the appropriate countermeasures. In this project, the PI aims to achieve four research objectives. First, by leveraging annotation from crowdsourcing workers, this project aims to develop effective corroborating evidence of aggression incidents on social media. De-identified datasets will be released publicly and will help the research community at large to better understand the problem. Second, the PI will develop techniques based on machine learning to identify online accounts that partake in online aggression, and to automatically flag the hateful content that they post, allowing online services to quickly react to such attacks. Third, the project will develop predictive models to establish the likelihood for content that is posted online to receive hate in the future; online services will be able to use these models to proactively allocate moderation resources towards content that is considered at risk. Finally, the PI will investigate the advantages and disadvantages of different mitigation approaches for this problem, from suspending offending online accounts to disabling comments for particularly risky content. This project's educational activities will include an interdisciplinary module targeted at college students from non-technical backgrounds and a tutorial designed to provide high school students with a better understanding of cyberbullying attacks.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
社交媒体的兴起使得网络欺凌、骚扰和仇恨言论等网络攻击行为达到了前所未有的规模。一些攻击者选择目标并在两极分化的在线社区上进行协调,组织针对受害者的攻击,向他们发送充满仇恨或令人不安的信息、视频和图像。这些攻击可能会对受害者造成严重伤害,迫使他们离开社交媒体网站,甚至考虑自残。尽管存在在线攻击带来的威胁,但该问题迄今为止尚未受到计算机安全研究界的太多关注。然而,开发能够识别和减轻此类攻击的定量方法对于为所有互联网用户提供安全的在线体验至关重要。该项目旨在开发能够实时识别在线攻击的工具,使在线服务能够采取适当的对策。 在这个项目中,PI 旨在实现四个研究目标。首先,通过利用众包工作者的注释,该项目旨在开发社交媒体上的攻击事件的有效佐证证据。去识别化的数据集将公开发布,并将帮助整个研究界更好地理解这个问题。其次,PI将开发基于机器学习的技术来识别参与在线攻击的在线帐户,并自动标记他们发布的仇恨内容,从而使在线服务能够快速对此类攻击做出反应。第三,该项目将开发预测模型,以确定在线发布的内容未来受到仇恨的可能性;在线服务将能够使用这些模型主动将审核资源分配给被认为存在风险的内容。最后,PI 将调查针对此问题的不同缓解方法的优缺点,从暂停违规在线帐户到禁用对特别危险内容的评论。该项目的教育活动将包括一个针对非技术背景大学生的跨学科模块和一个旨在让高中生更好地了解网络欺凌攻击的教程。该奖项反映了 NSF 的法定使命,并通过评估被认为值得支持利用基金会的智力优势和更广泛的影响审查标准。

项目成果

期刊论文数量(30)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
The Evolution of the Manosphere Across the Web
网络上马诺圈的演变
  • DOI:
  • 发表时间:
    2021-01
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Horta Ribeiro, Manoel;Blackburn, Jeremy;Bradlyn, Barry;De Cristofaro, Emiliano;Stringhini, Gianluca;Long, Summer;Greenberg, Stephanie;Zannettou, Savvas
  • 通讯作者:
    Zannettou, Savvas
There are N Impostors Among Us: Understanding the Effect of State-Sponsored Troll Accounts on Reddit Discussions
我们中间有 N 个冒名顶替者:了解国家资助的巨魔账户对 Reddit 讨论的影响
Lambretta: Learning to Rank for Twitter Soft Moderation
Lambretta:学习 Twitter 软审核排名
  • DOI:
    10.1109/sp46215.2023.10179392
  • 发表时间:
    2022-12-12
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Pujan Paudel;Jeremy Blackburn;Emiliano De Cristofaro;Savvas Zannettou;G. Stringhini
  • 通讯作者:
    G. Stringhini
Getting Meta: A Multimodal Approach for Detecting Unsafe Conversations within Instagram Direct Messages of Youth
获取元数据:检测 Instagram 青少年私信中不安全对话的多模式方法
  • DOI:
    10.1145/3579608
  • 发表时间:
    2023-04
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Ali, Shiza;Razi, Afsaneh;Kim, Seunghyun;Alsoubai, Ashwaq;Ling, Chen;De Choudhury, Munmun;Wisniewski, Pamela J.;Stringhini, Gianluca
  • 通讯作者:
    Stringhini, Gianluca
TrollMagnifier: Detecting State-Sponsored Troll Accounts on Reddit
TrollMagnifier:在 Reddit 上检测国家资助的巨魔帐户
{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Gianluca Stringhini其他文献

A Data Donation Approach for Youth Online Safety
青少年在线安全的数据捐赠方法
  • DOI:
    10.2139/ssrn.4627341
  • 发表时间:
    2023
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Afsaneh Razi;Ashwaq Alsoubai;J. Park;Xavier V. Caddle;Shiza Ali;Seunghyun Kim;Gianluca Stringhini;Munmun De Choudhury;Pamela J. Wisniewski
  • 通讯作者:
    Pamela J. Wisniewski
In the Press
在新闻界
  • DOI:
  • 发表时间:
    2017
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Gianluca Stringhini
  • 通讯作者:
    Gianluca Stringhini
Enabling Contextual Soft Moderation on Social Media through Contrastive Textual Deviation
通过对比文本偏差在社交媒体上实现上下文软审核
  • DOI:
  • 发表时间:
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Pujan Paudel;Mohammad Hammas Saeed;Rebecca Auger;Chris Wells;Gianluca Stringhini
  • 通讯作者:
    Gianluca Stringhini
Systemization of Knowledge (SoK): Creating a Research Agenda for Human-Centered Real-Time Risk Detection on Social Media Platforms
知识系统化(SoK):为社交媒体平台上以人为中心的实时风险检测制定研究议程
Poster Paper: Efficient Navigation of Cloud Performance with ’nuffTrace
海报论文:使用 nuffTrace 有效导航云性能

Gianluca Stringhini的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Gianluca Stringhini', 18)}}的其他基金

Collaborative Research: SaTC: TTP: Medium: iDRAMA.cloud: A Platform for Measuring and Understanding Information Manipulation
协作研究:SaTC:TTP:中:iDRAMA.cloud:测量和理解信息操纵的平台
  • 批准号:
    2247868
  • 财政年份:
    2023
  • 资助金额:
    $ 54.93万
  • 项目类别:
    Continuing Grant
Collaborative Research: SaTC: CORE: Small: Detecting Accounts Involved in Influence Campaigns on Social Media
协作研究:SaTC:核心:小型:检测参与社交媒体影响力活动的帐户
  • 批准号:
    2114407
  • 财政年份:
    2021
  • 资助金额:
    $ 54.93万
  • 项目类别:
    Standard Grant
Collaborative Research: SaTC: CORE: Small: Flanker: Automatically Detecting Lateral Movement in Organizations Using Heterogeneous Data and Graph Representation Learning
协作研究:SaTC:核心:小型:侧翼:使用异构数据和图表示学习自动检测组织中的横向运动
  • 批准号:
    2127232
  • 财政年份:
    2021
  • 资助金额:
    $ 54.93万
  • 项目类别:
    Standard Grant
Inferring the Purpose of Network Activities
推断网络活动的目的
  • 批准号:
    EP/N008448/1
  • 财政年份:
    2015
  • 资助金额:
    $ 54.93万
  • 项目类别:
    Research Grant

相似国自然基金

A股市场信息与风险的传递:基于文本大数据的“领先-滞后”有向新闻关联网络视角
  • 批准号:
    72303119
  • 批准年份:
    2023
  • 资助金额:
    30 万元
  • 项目类别:
    青年科学基金项目
无向概率图模型的量子数据结构与量子算法研究
  • 批准号:
    12204386
  • 批准年份:
    2022
  • 资助金额:
    30 万元
  • 项目类别:
    青年科学基金项目
高精度视向速度测量中的光谱数据处理方法
  • 批准号:
  • 批准年份:
    2020
  • 资助金额:
    43 万元
  • 项目类别:
    联合基金项目
探索多属性变化特征的三向聚类方法及其可视化
  • 批准号:
    41901317
  • 批准年份:
    2019
  • 资助金额:
    27.0 万元
  • 项目类别:
    青年科学基金项目
磁层三维电流体系的多点卫星探测分析
  • 批准号:
    41874190
  • 批准年份:
    2018
  • 资助金额:
    64.0 万元
  • 项目类别:
    面上项目

相似海外基金

Towards elucidating PTSD pathogenesis with ultra-portable and low-cost neuroimaging
通过超便携式和低成本的神经影像学阐明 PTSD 发病机制
  • 批准号:
    10644627
  • 财政年份:
    2023
  • 资助金额:
    $ 54.93万
  • 项目类别:
Towards a Quantum-Mechanical Understanding of Redox Chemistry in Proteins
对蛋白质氧化还原化学的量子力学理解
  • 批准号:
    10606459
  • 财政年份:
    2023
  • 资助金额:
    $ 54.93万
  • 项目类别:
Towards Precision Medicine for Thoracic Aortic Disease: Defining the Clinical and Genomic Drivers of Bicuspid Aortopathy
迈向胸主动脉疾病的精准医学:定义二尖瓣主动脉病的临床和基因组驱动因素
  • 批准号:
    10664513
  • 财政年份:
    2023
  • 资助金额:
    $ 54.93万
  • 项目类别:
Towards Precision Rehabilitation for Ventral Hernia
腹疝的精准康复
  • 批准号:
    10823864
  • 财政年份:
    2023
  • 资助金额:
    $ 54.93万
  • 项目类别:
Steps Towards OA Prevention
预防 OA 的步骤
  • 批准号:
    10642327
  • 财政年份:
    2023
  • 资助金额:
    $ 54.93万
  • 项目类别:
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了