10 月 28 日,Anthropic 公布一项实验:50 名专业分析师在虚构农合社的因果推断任务中接受 Claude Opus 4.8 的辅助,模型被暗中在四个分析选择上随机推向某一侧。结果显示,分析师在 86% 的情况下采纳了模型给出的倾向,并复述模型的原话作为理由,而他们并不知道方向是随机分配的。研究者认为,这说明专业判断正在向 AI 的“随口一句”让位,企业部署代理时需要把这种隐性影响当成风险。
来源:全球资讯与公开媒体报道
全球 AI 动态
Anthropic 让 50 名专业分析师做因果推断,Claude 在四个分析方向上被随机植入倾向,结果分析师有 86% 的时候跟着模型选,还用模型的话论证。
10 月 28 日,Anthropic 公布一项实验:50 名专业分析师在虚构农合社的因果推断任务中接受 Claude Opus 4.8 的辅助,模型被暗中在四个分析选择上随机推向某一侧。结果显示,分析师在 86% 的情况下采纳了模型给出的倾向,并复述模型的原话作为理由,而他们并不知道方向是随机分配的。研究者认为,这说明专业判断正在向 AI 的“随口一句”让位,企业部署代理时需要把这种隐性影响当成风险。
来源:全球资讯与公开媒体报道