LO
技術的能力認知の自動化2025-04-25
主要な医療機関の治療ガイドに照らして試すと、現行の言語モデルは、より新しく大きなものでも重大な状態に不適切に応答した、と研究者たちは報告した
カウンセラー・心理療法士職業のページ →
出来事の日付 / 報じられた日
2025-04-25
証拠の段階
技術的能力実演、ベンチマーク、あるいは論文が、その業務をやれることを示している。技術に何ができるかを更新するのであって、雇用主が何をするかを更新するのではない。
これが関わる業務
治療上の判断を下す
この人は危険な状態にある、計画を変えなければならない、あるいは自分ではない誰かが必要だ、と決めること。
いまも人が主導✓ 証拠に基づく
どこに当てはまるか
主要な医療機関が使う治療ガイドを整理し——たとえば治療同盟の重要性——gpt-4oのような現行の言語モデルをそれに照らして試した実験室での研究である。モデルは、メンタルヘルスの状態にある人々へのスティグマを示し、ありふれた、また重大な特定の状態に不適切に応答した。そこにはクライアントの妄想的な思考を助長することも含まれ、より大きく新しいモデルでも同じだった。著者らはまた、治療同盟には人間的な特性が要るといった障壁も指摘している。試しているのは作られた場面のなかのモデルであり、製品やカウンセラーではない。
これが意味すること
治療上の判断を最も必要とする瞬間こそ、試験で現行のモデルが誤った場面である。
これがまだ示していないこと
作られた場面でのプレプリントであり、導入された製品や将来のモデルは違うかもしれない。
あなたに確かめられること
arXiv 2504.18412 を開き、「respond inappropriately to certain common (and critical) conditions」を探すこと。
評価を変えるか
いいえ——そしてこの段階も、それを動かしません。「技術的能力」の記録は実在する証拠ですが、それ単独で業務の判断を引き上げることはありません。上にある1項の紐づいた判断は、元の位置のままです。
出典
Moore et al. — Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers (arXiv 2504.18412, submitted 25 Apr 2025) · 検証 2026-09-30 · Claude (VOLO agent) · 解読 2026-09-30 · Claude (VOLO agent)
一次資料——これを行った当事者、あるいは記録を司る当局が公表したもの。連署は要りません。