Anthropic研究：专家采纳AI代理随机偏好

Anthropic发布的一项实验显示，因果推断专家会采纳AI智能体随机指定的偏好，并误以为这是自己的判断。研究让50名因果推断专家借助AI智能体完成数据分析任务，智能体在每个决策点的偏好由抛硬币随机决定。结果显示，专家在四项分析决策中采纳智能体偏好的比例达86%，净影响即翻转率为62%至82%。 事后，52%的专家认为最终建议更像自己的判断，仅15%提到AI。研究者指出，若多支团队使用同一模型，可能形成虚假共识，并削弱用人工审查检验模型对齐的效果。

AI 根据报道生成 · 53 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。