一项研究发现:在治疗情境测试中,语言模型对有心理健康问题的人表现出污名化,并助长来访者的妄想

事件日期 / 报道日期

2025-04-25

证据阶段

技术能力演示、评测或论文表明技术上能做。它更新的是「技术能力」,不是「企业会怎么做」。

关联任务

心理治疗

在一系列会谈中治疗来访者,并判断什么时候必须调整方案。

仍由人主导✓ 有证据支撑

适用范围

一项实验室研究,梳理了大型医疗机构使用的治疗指南,并用它们测试 gpt-4o 等当前的语言模型。研究报告说,这些模型对有心理健康问题的人表现出污名化,对某些常见且关键的状况做出不恰当的回应,包括助长来访者的妄想;更大、更新的模型也是如此。它测试的是模型,不是已部署的产品或临床人员。

这意味着什么

当前的语言模型在对安全最要紧的那部分治疗上表现不合格。

还不能说明什么

这是一篇在构造情境中测试模型的预印本;产品和更新的模型可能表现不同。

你可以核实什么

打开 arXiv 2504.18412,找到 "encourage clients' delusional thinking"。

是否改变评估

否 —— 这个阶段本身也不移动评估。「技术能力」是真实的证据,但它不单独提升任务判断的层级。上面 1 项关联判断维持原状。

来源

一手来源 —— 由做这件事的当事人或记录的权威机构发布,无需联署。