浙大设计研究|AI谄媚正在改变你的判断

2026-05-28

大语言模型越来越频繁地辅助人类决策,但常常表现出“谄媚”倾向——附和用户、夸赞用户或自我贬低。讨好式回应会无形中影响用户的判断。不同形式的“谄媚”对用户决策的影响有何差异?在低风险与高风险情景下是否一致?这些问题尚缺乏系统回答。

针对这一挑战,浙江大学设计学团队提出并区分了三种典型的大语言模型“谄媚”形式:观点附和、直接赞美、自我贬低。通过低风险(约会预测)与高风险(ETF投资)任务实验发现:观点附和会显著降低用户改变初始决定的可能性,强化既有判断;自我贬低即使在AI反对用户时仍能提升用户信心;直接赞美在高风险任务中增强认知信任,但过度则引发对AI客观性的质疑。

参与者实验流程图
参与者实验流程图

操纵性检验结果图
操纵性检验结果图

该成果的第一学生作者是浙江大学工业设计工程硕士生潘嘉漫。“在AI越来越‘懂人心’的时代,我们希望AI不只是让人感到舒服,更能帮助人们做出更好的判断。理解‘谄媚’的影响,是让AI真正成为可信赖伙伴的重要一步。”潘嘉漫分享道。

浙江大学工业设计工程硕士生潘嘉漫
浙江大学工业设计工程硕士生潘嘉漫

项目成果:
项目成果于2026年4月发表在国际人机交互领域顶级会议CHI 2026。研究团队:李泽健、潘嘉漫、刘绮、奚誉宁、周毅翔、金艺轲、毛荣杰、陈培。本项目受到国家自然科学基金资助。

论文原文链接:
Zejian Li, Jiaman Pan*, Qi Liu, Yuning Xi, Yixiang Zhou, Yike Jin, Rongjie Mao, and Pei Chen. 2026. Does Sycophancy Change Decisions? Effect of LLM Sycophancy on AI-Assisted Decision-Making. In Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems (CHI ’26). , April 13–17, 2026, Barcelona, Spain. ACM, New York, NY, USA, 20 pages.
https://doi.org/10.1145/3772318.3790934
注:论文介绍图片部分内容由AI生成