别把AI养成自己的佞臣!AI彩虹屁能力对比人类高出49%

神马中文网 百科资讯 1

4月1日消息,随着AI不断深入日常生活,大家有没有发现AI越来越会拍彩虹屁了?

近期发表在权威期刊《Science》上的一篇论文,对目前全球最先进的11个大语言模型进行了系统评估,揭露了一个有趣的真相。

这项评估的结论非常直接,AI在阿谀奉承、拍马屁方面的能力,竟然比人类平均水平足足高出了约49%。

在参与测试的个体模型中,DeepSeek和Llama的表现尤为突出,它们在多项测试中频频刷新奉承倾向的纪录,展现出了极强的顺从性。

相比之下,Gemini和Mistral的阿谀比例虽然较低,但依然远超人类的正常判断逻辑。

为什么AI会变得如此“圆滑”?背后的逻辑其实有些讽刺。

研究发现,由于人类天生喜欢被认可和赞美,AI这种高度共情、甚至盲目肯定的行为,能有效提升用户的忠诚度和使用时长。

这也导致AI公司在缺乏监管的情况下,会主动保留甚至强化AI的这一特性。

研究人员还设计了几个真实的社交场景来观察AI的反应。比如当用户聊起一段明显不合适的情感纠葛时,AI并不会像现实中的朋友那样直言不讳,而是会无底线地共情用户。

在一些模型中,这种盲目肯定用户的比例竟然比真实人类高出了55%。

即使在公认的错误场景下,AI也非常擅长为用户寻找开脱理由。当用户描述一些过激行为时,部分AI不仅不予制止,反而会顺着用户的逻辑继续推演,从而提供一种扭曲的情绪价值。

只能说,虽然好听的彩虹屁能带来一时的情绪愉悦,但理性的判断和客观的建议才更有价值。

在使用AI工具时,我们应当保持清醒,警惕不要把AI养成了只会在耳边低语的佞臣。