根据发表在《科学》期刊上的一项研究，为人际关系问题提供建议和支持的 AI 聊天机器人可能会通过明显谄媚的回答而悄然强化有害的信念。研究发现，在各种语境下，聊天机器人肯定人类用户的频率远超真人之间相互肯定的频率；由此产生的有害后果包括：用户更坚信自己正确且更不愿去修复人际关系。
研究人员利用 Reddit 社区“AITA”中的帖子评估了 OpenAI、Anthropic、Google 等公司的 11 种先进且广泛使用的 AI 大模型；结果发现，这些系统对用户行为的肯定频率比真人高出 49%，即使是在涉及欺骗、伤害或违法的场景中也是如此。在两项后续的实验中，研究人员探讨了这类结果所导致的行为后果。研究结果显示，在涉及人际交往情境（尤其是冲突）时，与谄媚式 AI 互动的参与者会更坚信自己是正确的，并且即使仅经过一次互动，他们和解或承担责任的意愿也会降低。
https://www.science.org/doi/10.1126/science.aec8352
https://www.eurekalert.org/news-releases/1120832?language=chinese
