基于深度学习的端对端跨领域个性化任务型对话研究

结题报告
项目介绍
AI项目解读

基本信息

  • 批准号：
    61906185
  • 项目类别：
    青年科学基金项目
  • 资助金额：
    25.0万
  • 负责人：
    杨敏
  • 依托单位：
    中国科学院深圳先进技术研究院
  • 学科分类：
    F0606.自然语言处理
  • 结题年份：
    2022
  • 批准年份：
    2019
  • 项目状态：
    已结题
  • 起止时间：
    2020-01-01 至2022-12-31

项目摘要

The research of task-oriented dialogue system aims to help users complete domain-specific tasks through the means of natural language dialogue. It has become an important and challenging problem in natural language processing and artificial intelligence fields. However, previous studies rarely consider users’ personalized needs. In addition, they are highly dependent on domain knowledge and large-scale labeled data in specific domains. Insufficient training data in target domain may lead to poor performance or even over-fitting problem. To alleviate the above problems, this project proposes novel end-to-end deep neural networks for cross-domain personalized task-oriented dialogue generation by studying three key parts: (1) build a cross-domain natural language understanding model, which creates domain descriptions for each domain and then incorporates these domain descriptions into deep neural networks, dealing with the domain drift problem in dialogue understanding; (2) propose a cross-domain dialogue management model, which learns dialogue states in an implicit way and queries the external knowledge base with attention mechanism and knowledge transferring model, overcoming the non-differentiable problem in retrieving the external knowledge base; (3) propose a cross-domain personalized dialogue generation model, in which a fine-grained personalized control mechanism is designed to transfer the shared general phrase-level knowledge between users while keeping personal preferences of each user so as to prevent the user privacy disclosure. The proposed task-oriented dialogue system is of significantly innovative and practical values. In theory, the task-oriented dialogue system can be promoted in-depth based on the cross-domain and personalized mechanisms; in application, the outcomes of this project can further promote the application of dialogue systems on a wider scale.
任务型对话系统旨在通过自然语言对话的方式帮助用户完成特定领域的任务，已成为当前自然语言处理和人工智能领域的难点和热点。现有任务型对话系统较少考虑用户的个性化需求，并且对特定领域知识和标注数据依赖较大，如果目标领域的训练数据太少会导致效果不佳甚至过拟合问题。本项目拟研究基于深度学习的端到端跨领域个性化任务型对话方法，主要研究内容包括：①结合领域描述信息，学习跨领域共享语义空间，建立跨领域对话理解模型，缓解对话理解中领域漂移问题；②研究对话状态的隐式表示，以此为基础建立融入知识库操作的跨领域对话管理模型，克服知识库查询操作不可微问题；③提出细粒度个性化控制机制，在用户之间迁移短语级用户共享特征并保留个性化特征，实现跨领域个性化对话生成方法，并防止用户隐私泄露。本项目具有重要的研究意义和应用价值，在理论上有助于丰富任务型对话系统的发展，在应用上有利于促进任务型对话系统在更大范围的推广和应用。

结项摘要

任务型对话系统旨在通过自然语言对话的方式帮助用户完成特定领域的任务，已成为当前自然语言处理和人工智能领域的难点和热点。现有任务型对话系统较少考虑用户的个性化需求，并且对特定领域知识和标注数据依赖较大，如果目标领域的训练数据太少会导致效果不佳甚至过拟合问题。本项目拟研究基于深度学习的端到端任务型对话方法，主要研究内容包括：①受大规模预训练语言模型的启发，本项目提出了一种新的半监督对话预训练框架，旨在将少量对话标注知识注入到对话模型的预训练过程中。该模型可以同时利用大规模无标对话语料和少量对话标注知识对模型进行有效的学习。②为了增强对话系统的领域泛化性，本项目提出了一种终身深度对话系统，旨在模拟人类的终身学习能力，利用从旧领域中学习到的知识快速迁移学习新任务，从而实现多个领域之间的知识共享。③本项目提出了一个个性化对话系统，利用多任务学习和强化学习的优势来生成个性化对话，可以为不同特征的用户生成高质量的个性化对话。④本项目提出了一种新的元合作学习方法，利用两个辅助推理任务（多轮对话推理和外部知识库）来帮助任务型对话系统生成包含精确实体的高质量对话响应。⑤本项目提出了一个分层语义-情感记忆模型，从大规模训练语料库中学习抽象的语义对话模式和情感信息，并将情感信息引入到对话系统中，辅助情感对话的生成。同时，本项目还构建了一个包含300万条样本的有标签对话集AnPreDial和一个包含1900万条样本的大规模无标签对话集 UnPreDial，用于高效的对话预训练。本项目所构建的对话语料和相关模型代码都已经开源，这将有利于推动任务型对话系统的发展。总的来说，在基金资助下，发表SCI检索JCR Q1期刊论文16篇和CCF-A/B类国际会议论文30篇，授权国家发明专利10项，培养硕士研究生5人。

项目成果

期刊论文数量（16）
专著数量（0）
科研奖励数量（0）
会议论文数量（38）
专利数量（10）
An Ensemble of Generation- and Retrieval-Based Image Captioning With Dual Generator Generative Adversarial Network
具有双生成器生成对抗网络的基于生成和检索的图像描述的集成
  • DOI：
    10.1109/tip.2020.3028651
  • 发表时间：
    2020-10
  • 期刊：
    IEEE Transactions on Image Processing
  • 影响因子：
    10.6
  • 作者：
    Min Yang;Junhao Liu;Ying Shen;Zhou Zhao;Xiaojun Chen;Qingyao Wu;Chengming Li
  • 通讯作者：
    Chengming Li
Few-Shot Aspect Category Sentiment Analysis via Meta-Learning
通过元学习进行少样本方面类别情感分析
  • DOI：
    10.1145/3529954
  • 发表时间：
    2023
  • 期刊：
    ACM Transactions on Information Systems
  • 影响因子：
    5.6
  • 作者：
    Bin Liang;Xiang Li;Lin Gui;Yonghao Fu;Yulan He;Min Yang;Ruifeng Xu
  • 通讯作者：
    Ruifeng Xu
Hierarchical Human-Like Deep Neural Networks for Abstractive Text Summarization
用于抽象文本摘要的分层类人深度神经网络
  • DOI：
    10.1109/tnnls.2020.3008037
  • 发表时间：
    2021-06-01
  • 期刊：
    IEEE TRANSACTIONS ON NEURAL NETWORKS AND LEARNING SYSTEMS
  • 影响因子：
    10.4
  • 作者：
    Yang, Min;Li, Chengming;Chen, Xiaojun
  • 通讯作者：
    Chen, Xiaojun
Exploring Privileged Features for Relation Extraction with Contrastive Student-Teacher Learning
通过对比学生-教师学习探索关系提取的特权特征
  • DOI：
    10.1109/tkde.2022.3161584
  • 发表时间：
    --
  • 期刊：
    IEEE Transactions on Knowledge and Data Engineering
  • 影响因子：
    8.9
  • 作者：
    Xiaoyan Zhao;Min Yang;Qiang Qu;Ruifeng Xu;Jieke Li
  • 通讯作者：
    Jieke Li
Multi-goal multi-agent learning for task-oriented dialogue with bidirectional teacher-student learning
多目标多主体学习，用于任务导向的对话和双向师生学习
  • DOI：
    10.1016/j.knosys.2020.106667
  • 发表时间：
    2021-02-15
  • 期刊：
    KNOWLEDGE-BASED SYSTEMS
  • 影响因子：
    8.8
  • 作者：
    He, Wanwei;Sun, Yang;Xu, Ruifeng
  • 通讯作者：
    Xu, Ruifeng

数据更新时间：{{ journalArticles.updateTime }}

{{ item.title }}
{{ item.translation_title }}
  • DOI：
    {{ item.doi || "--"}}
  • 发表时间：
    {{ item.publish_year || "--" }}
  • 期刊：
    {{ item.journal_name }}
  • 影响因子：
    {{ item.factor || "--"}}
  • 作者：
    {{ item.authors }}
  • 通讯作者：
    {{ item.author }}

数据更新时间：{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者：
    {{ item.authors }}

数据更新时间：{{ monograph.updateTime }}

{{ item.title }}
  • 作者：
    {{ item.authors }}

数据更新时间：{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者：
    {{ item.authors }}

数据更新时间：{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者：
    {{ item.authors }}

数据更新时间：{{ patent.updateTime }}

其他文献

紫罗兰挥发物化学成分分析及促生活性物质鉴定
  • DOI：
    10.12101/j.issn.1004-390x(n).202103028
  • 发表时间：
    2022
  • 期刊：
    云南农业大学学报（自然科学）
  • 影响因子：
    --
  • 作者：
    姚汉央;弓雅婧;苏宏鼎;杨荣亮;杜飞;杨敏;朱书生;邓维萍
  • 通讯作者：
    邓维萍
How Do Sociodemographics and Activity Participations Affect Activity-Travel? Comparative Study between Women and Men
社会人口统计和活动参与如何影响活动旅行？
  • DOI：
    10.1155/2014/374521
  • 发表时间：
    2014-09
  • 期刊：
    Discrete Dynamics in Nature and Society
  • 影响因子：
    1.4
  • 作者：
    杨敏;王炜;虞飞飞;丁剑
  • 通讯作者：
    丁剑
美食对游客情感与满意度的影响研究——以赴西安的西南地区游客为例
  • DOI：
    10.16152/j.cnki.xdxbzr.2018-03-017
  • 发表时间：
    2018
  • 期刊：
    西北大学学报（自然科学版）
  • 影响因子：
    --
  • 作者：
    杨淼甜;李君轶;杨敏
  • 通讯作者：
    杨敏
Macroporous defective tungsten oxide nanostructure electrodes deliver ultrahigh capacitance and remarkable long cyclic durability in LiCl electrolyte
大孔缺陷氧化钨纳米结构电极在 LiCl 电解质中具有超高电容和卓越的长循环耐久性
  • DOI：
    10.1016/j.ceramint.2018.09.054
  • 发表时间：
    2018-12
  • 期刊：
    Ceramics International
  • 影响因子：
    5.2
  • 作者：
    杨敏;姚陈忠
  • 通讯作者：
    姚陈忠
两相体系中羟化酶催化1,2,3,4-四氢喹啉不对称羟基化反应
  • DOI：
    10.15952/j.cnki.cjsc.1005-1511.2016.04.16010
  • 发表时间：
    2016
  • 期刊：
    合成化学
  • 影响因子：
    --
  • 作者：
    李珂;杨敏;崔宝东;陈永正
  • 通讯作者：
    陈永正

其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI：
    {{ item.doi || "--" }}
  • 发表时间：
    {{ item.publish_year || "--"}}
  • 期刊：
    {{ item.journal_name }}
  • 影响因子：
    {{ item.factor || "--" }}
  • 作者：
    {{ item.authors }}
  • 通讯作者：
    {{ item.author }}
empty
内容获取失败，请点击重试
重试联系客服
title开始分析
查看分析示例
此项目为已结题，我已根据课题信息分析并撰写以下内容，帮您拓宽课题思路：

AI项目思路

AI技术路线图

杨敏的其他基金

对话式语义解析方法研究
  • 批准号：
    62376262
  • 批准年份：
    2023
  • 资助金额：
    51 万元
  • 项目类别：
    面上项目

相似国自然基金

{{ item.name }}
  • 批准号：
    {{ item.ratify_no }}
  • 批准年份：
    {{ item.approval_year }}
  • 资助金额：
    {{ item.support_num }}
  • 项目类别：
    {{ item.project_type }}

相似海外基金

{{ item.name }}
{{ item.translate_name }}
  • 批准号：
    {{ item.ratify_no }}
  • 财政年份：
    {{ item.approval_year }}
  • 资助金额：
    {{ item.support_num }}
  • 项目类别：
    {{ item.project_type }}
{{ showInfoDetail.title }}

作者：{{ showInfoDetail.author }}

知道了

AI项目解读示例

课题项目：调控A型流感病毒诱导IFN-β表达的机制研究

AI项目摘要：

本研究聚焦于TRIM2蛋白在A型流感病毒诱导的IFN-β表达中的调控机制。A型流感病毒是全球性健康问题，其感染可导致严重的呼吸道疾病。IFN-β作为关键的抗病毒因子，其表达水平对抗病毒防御至关重要。然而，TRIM2如何调控IFN-β的表达尚未明确。本研究假设TRIM2通过与病毒RNA或宿主因子相互作用，影响IFN-β的产生。我们将采用分子生物学、细胞生物学和免疫学方法，探索TRIM2与A型流感病毒诱导IFN-β表达的关系。预期结果将揭示TRIM2在抗病毒免疫反应中的作用，为开发新的抗病毒策略提供理论基础。该研究对理解宿主抗病毒机制具有重要科学意义，并可能对临床治疗流感病毒感染提供新的视角。

AI项目思路：

科学问题：TRIM2如何调控A型流感病毒诱导的IFN-β表达？
前期研究：已有研究表明TRIM2参与抗病毒反应，但其具体机制尚不明确。
研究创新点：本研究将深入探讨TRIM2在IFN-β表达中的直接作用机制。
技术路线：包括病毒学、分子生物学、细胞培养和免疫检测技术。
关键技术：TRIM2与病毒RNA的相互作用分析，IFN-β启动子活性检测。
实验模型：使用A型流感病毒感染的细胞模型进行研究。

AI技术路线图

        graph TD
          A[研究起始] --> B[文献回顾与假设提出]
          B --> C[实验设计与方法学准备]
          C --> D[A型流感病毒感染模型建立]
          D --> E[TRIM2与病毒RNA相互作用分析]
          E --> F[TRIM2对IFN-β启动子活性的影响]
          F --> G[IFN-β表达水平测定]
          G --> H[TRIM2功能丧失与获得研究]
          H --> I[数据收集与分析]
          I --> J[结果解释与科学验证]
          J --> K[研究结论与未来方向]
          K --> L[研究结束]
关闭
close
客服二维码