III: Small: Towards Explainable Personalization

III：小：迈向可解释的个性化

基本信息

批准号：
2007492
负责人：
Yangfeng Ji
金额：
$ 50万
依托单位：
University of Virginia Main Campus
依托单位国家：
美国
项目类别：
Continuing Grant
财政年份：
2020
资助国家：
美国
起止时间：
2020-10-01 至 2024-09-30
项目状态：
已结题

来源：
https://www.nsf.gov/awardsearch/showAward?AWD_ID=2007492&HistoricalAwards=false
关键词：
III Small Towards Explainable Personalization

项目摘要

Modern personalized information systems are black boxes to their users: computerized oracles give advice, but cannot be questioned. The lack of explanations for the personalized results has precluded broader adoption of personalization techniques in many important but high-risk domains, e.g., healthcare, education, and finance. This project aims to build a generic computational framework for explainable personalization, such that users will be aware of what information has been collected for customizing the system's output, and system developers can detect what type of personalized results will disclose users' privacy, e.g., unveiling his/her gender, age, or health status. This benefits both systems and users in the development of future information systems.The proposed research focuses on two alternative perspectives, i.e., system-oriented and user-oriented explanation generation, in an adaptive fashion. The learning of personalization will be embedded with respect to the learning of explanation, so as to attain both personalization quality and explanation fidelity. In addition to building prototype systems to conduct user studies for evaluation, this project also takes a unique angle from econometric studies to assess the utility of the explanations via the users' revealed preferences. The value of explanation will be measured by the difference between the utilities of a user's decisions with and without explanations, which in turn enables adaptive evaluation and optimization of both explanation and personalization. The research activities will be incorporated into teaching materials in the area of information retrieval and machine learning. The planed outreach to high school students for education about online privacy would increase their awareness of potential risk of privacy breaches resulted from personalized systems.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.

现代个性化信息系统对其用户来说是黑匣子：计算机化的预言机提供建议，但不能质疑。由于缺乏对个性化结果的解释，个性化技术无法在许多重要但高风险的领域（例如医疗保健、教育和金融）得到更广泛的采用。该项目旨在构建一个可解释的个性化的通用计算框架，以便用户知道为了定制系统的输出而收集了哪些信息，并且系统开发人员可以检测哪种类型的个性化结果会泄露用户的隐私，例如，他/她的性别、年龄或健康状况。这有利于系统和用户在未来信息系统的开发中。所提出的研究以自适应方式侧重于两种替代视角，即面向系统和面向用户的解释生成。个性化学习将嵌入解释性学习中，从而获得个性化质量和解释保真度。除了构建原型系统来进行用户研究以进行评估之外，该项目还从计量经济学研究的独特角度，通过用户所揭示的偏好来评估解释的效用。解释的价值将通过用户在有解释和没有解释的情况下决策的效用之间的差异来衡量，这反过来又可以实现解释和个性化的自适应评估和优化。研究活动将被纳入信息检索和机器学习领域的教材中。计划对高中生进行在线隐私教育，将提高他们对个性化系统造成的隐私侵犯潜在风险的认识。该奖项反映了 NSF 的法定使命，并通过使用基金会的智力优势和更广泛的影响进行评估，被认为值得支持审查标准。

项目成果

期刊论文数量（16）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

Comparative Explanations of Recommendations

建议的比较解释

DOI：
10.1145/3485447.3512031
发表时间：
2022-04
期刊：
Proceedings of the ACM Web Conference 2022
影响因子：
0
作者：
Yang, Aobo;Wang, Nan;Cai, Renqin;Deng, Hongbo;Wang, Hongning
通讯作者：
Wang, Hongning

How Bad is Top-𝐾 Recommendation under Competing Content Creators?

顶级有多糟糕？

DOI：
发表时间：
2023-01
期刊：
Proceedings of the 40th International Conference on Machine Learning
影响因子：
0
作者：
Yao, Fan;Li, Chuanhao;Nekipelov, Denis;Wang, Hongning;Xu, Haifeng
通讯作者：
Xu, Haifeng

When Are Linear Stochastic Bandits Attackable?

线性随机强盗何时会受到攻击？

DOI：
发表时间：
2022-07
期刊：
Proceedings of the 39th International Conference on Machine Learning
影响因子：
0
作者：
Wang, Huazheng;Xu, Haifeng;Wang, Hongning
通讯作者：
Wang, Hongning

Learning from a Learning User for Optimal Recommendations

向学习用户学习以获得最佳推荐

DOI：
发表时间：
2022-07
期刊：
Proceedings of the 39th International Conference on Machine Learning
影响因子：
0
作者：
Yao, Fan;Li, Chuanhao;Nekipelov, Denis;Wang, Hongning;Xu, Haifeng
通讯作者：
Xu, Haifeng

Meta Policy Learning for Cold-Start Conversational Recommendation

用于冷启动会话推荐的元策略学习

DOI：
10.1145/3539597.3570443
发表时间：
2022-05-24
期刊：
Proceedings of the Sixteenth ACM International Conference on Web Search and Data Mining
影响因子：
0
作者：
Zhendong Chu;Hongning Wang;Yun Xiao;Bo Long;Lingfei Wu
通讯作者：
Lingfei Wu

DOI：
{{ item.doi }}
发表时间：
{{ item.publish_year }}
期刊：
{{ item.journal_name }}
影响因子：
{{ item.factor }}
作者：
{{ item.authors }}
通讯作者：
{{ item.author }}

数据更新时间：{{ journalArticles.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ monograph.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ sciAawards.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ conferencePapers.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ patent.updateTime }}

Yangfeng Ji其他文献

“This is a Problem, Don’t You Agree?” Framing and Bias in Human Evaluation for Natural Language Generation

——这是一个问题，你不同意吗？——人类对自然语言生成的评价的框架和偏见

DOI：
发表时间：
2024-09-14
期刊：
影响因子：
0
作者：
S. Schoch;Diyi Yang;Yangfeng Ji
通讯作者：
Yangfeng Ji

Improve Temporal Awareness of LLMs for Sequential Recommendation

提高法学硕士的时间意识以进行顺序推荐

DOI：
10.48550/arxiv.2405.02778
发表时间：
2024-05-05
期刊：
ArXiv
影响因子：
0
作者：
Zhendong Chu;Zichao Wang;Ruiyi Zhang;Yangfeng Ji;Hongning Wang;Tong Sun
通讯作者：
Tong Sun

Explaining Neural Network Predictions on Sentence Pairs via Learning Word-Group Masks

通过学习词组掩码解释神经网络对句子对的预测

DOI：
发表时间：
2021
期刊：
North American Chapter of the Association for Computational Linguistics
影响因子：
0
作者：
Hanjie Chen;Song Feng;Jatin Ganhotra;H. Wan;Chulaka Gunasekara;Sachindra Joshi;Yangfeng Ji
通讯作者：
Yangfeng Ji