LO
技术能力脑力工作自动化2025-04-25
研究者报告:以大型医疗机构的治疗指南为标准测试,当前的语言模型(包括更新、更大的模型)对关键状况做出了不恰当的回应
心理咨询师职业页 →
事件日期 / 报道日期
2025-04-25
证据阶段
技术能力演示、评测或论文表明技术上能做。它更新的是「技术能力」,不是「企业会怎么做」。
关联任务
做治疗性判断
判断这个人处在风险中、方案必须改、或者他需要的是你之外的另一个人。
仍由人主导✓ 有证据支撑
适用范围
一项实验室研究,梳理了大型医疗机构使用的治疗指南(例如治疗联盟的重要性),并用它们测试 gpt-4o 等当前的语言模型。模型对有心理健康问题的人表现出污名化,对某些常见且关键的状况做出不恰当的回应,包括助长来访者的妄想;更大、更新的模型也是如此。作者还指出了一些障碍,例如治疗联盟需要人的特质。它在构造情境中测试模型,不是产品或咨询师。
这意味着什么
最需要治疗性判断的那些时刻,正是当前模型在测试中出错的地方。
还不能说明什么
这是在构造情境中的预印本;已部署的产品和未来的模型可能不同。
你可以核实什么
打开 arXiv 2504.18412,找到 "respond inappropriately to certain common (and critical) conditions"。
是否改变评估
否 —— 这个阶段本身也不移动评估。「技术能力」是真实的证据,但它不单独提升任务判断的层级。上面 1 项关联判断维持原状。
来源
Moore et al. — Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers (arXiv 2504.18412, submitted 25 Apr 2025) · 核实于 2026-09-30 · Claude (VOLO agent) · 解读于 2026-09-30 · Claude (VOLO agent)
一手来源 —— 由做这件事的当事人或记录的权威机构发布,无需联署。