実際の導入認知の自動化2024-04-01
アレゲニー郡が自ら説明:この児童福祉スクリーニングツールでは監督者が既定の推奨を定期的に覆し、立件後はスコアが見えなくなる
ソーシャルワーカー職業のページ →出来事の日付 / 報じられた日
2024-04-01 · 報じられた日 2024-05-31
証拠の段階
実際の導入雇用主がそれを本番に置いた。基準線を動かしうる——規模と、その場がどれだけ似ているかで重みづけされる。
これが関わる業務
リスクを評価し危機に対応する
子どもや弱い立場にある大人が安全かどうかを判断し、家庭を訪問し、安全でない場合には法定権限の行使も含めて行動すること。
いまも人が主導✓ 証拠に基づく
どこに当てはまるか
アレゲニー郡人的サービス局が自局の分析サイト上で公表したレビューであり、アレゲニー・ファミリー・スクリーニング・ツール(AFST)について査読済み論文やワーキングペーパーなど外部の研究成果をまとめたものである。同郡は2016年以降、児童虐待またはネグレクトの疑いに関する通報を調査するかどうかを電話スクリーニング担当のケースワーカーが判断する際に、このツールを活用してきた。文書には2024年4月という日付が記され、2024年5月31日に掲載された——ツールが実際どう使われているかを述べた第一当事者による説明であり、ベンダーがその能力を語ったものではない。この文書のうち三つの記述が、この任務についての判断を支えている。第一に、決定そのものについて:郡はAFSTのリスク情報が「照会プロセスにおける他の情報と併せて使用される」と記し、受付の監督者には「既定の選択を覆す裁量があり、実際にそうすることが多い」とし、監督者が過去に義務的な「立件」勧告のおよそ4分の1を覆してきたと述べている。第二に、スクリーニング後に何が起きるかについて:ある通報が調査のために立件されると、「担当の調査員もいかなるケースワーカーも、AFSTのスコアを目にすることは決してなく、したがってそれが虐待についての最終的な評価や、立件するかどうか、子どもを家庭から引き離すかどうかの決定に影響することはない」——スコアはこの法的効力を持つ決定にはまったく届かない。第三に、De-Arteagaらの研究(2020年)を引用し:あるソフトウェアの不具合により一部のスコアが誤って表示されていた期間、スクリーニング担当者が実際に下した決定は、誤って表示されたスコアよりも真のリスクに近いものだった——郡はこれを、職員が表示された数字に従うのではなく独立した判断を行っている証拠だと読んでいる。この文書が確立していないのは、担当件数、人員数、一件のスクリーニング決定にかかる時間、そしてこれが一つの郡の児童福祉ホットラインを超えてどこまで一般化できるかである。アレゲニー郡はAFSTを自ら構築し、資金を出し、運用しているため、その抑制的な運用についての自己申告は、同じ結論に達した外部監査とは異なる——ただし引用されている学術研究そのものは郡から独立している。
これが意味すること
受付時にリスクを示すツールと、実際に決定を下す人は同じではない。アレゲニー郡自身の説明によれば、監督者はアルゴリズムの既定の推奨を覆すことができ、実際に頻繁にそうしており、いったん調査のために事件が立件されると、リスクスコアは完全に姿を消す——調査を行う人も、子どもを家庭から引き離すいかなる決定も、それを目にすることはない。
これがまだ示していないこと
これは一つの郡が運用する児童福祉ホットラインの話であり、担当件数や人員数、一件のスクリーニング決定にかかる時間を測定したものではなく、この場面を離れたソーシャルワークについては何も述べていない。このツールは郡自身が構築し運用しているため、その抑制についての自己申告は、同じ結論に達した外部監査とは異なる。
あなたに確かめられること
自分の現場でリスクの振り分けを担っている人に、一つ問いかけてみてほしい:ツールがある案件を示した後、取り返しのつかない行動が起きる前に最後にそれに触れるのは誰で、その人の名前は記録に残っているだろうか。
評価を変えるか
いいえ。影響指数は一件の出来事で動くことはありません。この記録がやったのは、上にある1項の紐づいた業務の判断が、推定ではなく証拠の上に立つようになった、ということです。
出典
Allegheny County Department of Human Services — Summarizing Recent Research on Predictive Risk Models in Child Welfare (April 2024) · 検証 2026-09-24 · VOLO agent loop · 解読 2026-09-24 · VOLO agent loop
一次資料——これを行った当事者、あるいは記録を司る当局が公表したもの。連署は要りません。