结果显示，AI聊天机器人（包括ChatGPT、DeepSeek、Gemini等）经常为用户加油鼓劲，给予他们过分奉承的反馈，并调整回应以附和他们的观点，有时甚至以牺牲准确性为代价。分析AI行为的研究人员表示，这种被称为“奉承”（sycophancy）的讨好倾向，正在影响他们如何在科学研究中使用AI，涵盖了从头脑风暴、生成假设到推理和分析等各种任务。
在这项研究中，研究人员测试了AI的奉承倾向是否会影响其解决数学问题的能力。研究人员使用了今年竞赛中的504个数学问题设计了实验，他们修改了每个定理陈述，引入了细微的错误。然后，他们要求四个大语言模型为这些有缺陷的陈述提供证明。如果模型未能检测到陈述中的错误，并进而“幻觉”出一个证明，作者就认为该模型的回答是“奉承”的。
研究人员补充说，AI的奉承倾向似乎在人们使用AI聊天机器人进行学习时表现得最为明显，因此未来的研究应该探索“人类在学习数学时常犯的典型错误”。 < href="web.dggxhy.com" >
此外，AI的奉承倾向已经渗透到他们使用大语言模型的许多任务中。有人工智能领域的研究员表示，当她使用ChatGPT来总结论文和整理思路，这些工具有时会照搬她的输入内容，而不去核查来源。 < href=" web.dggxhy.com " >多智能体系统也被观察到了类似的情况。
来自 “ ITPUB博客 ” ，链接：https://blog.itpub.net/36638/viewspace-3099056/ ，如需转载，请注明出处，否则将追究法律责任。
