Déploiement réelAutomatisation cognitive2024-04-01
Le propre récit du comté d'Allegheny sur son outil de repérage des risques en protection de l'enfance : les superviseurs annulent régulièrement sa recommandation par défaut, et le score est masqué dès qu'un dossier est ouvert
Travailleur socialpage du métier →Date de l'événement / signalement
2024-04-01 · signalé 2024-05-31
Stade de la preuve
Déploiement réelUn employeur l'a mis en production. Cela peut déplacer la ligne de base — pondéré par l'échelle et par la ressemblance du cadre avec le vôtre.
Tâches concernées
Évaluer les risques et réagir aux crises
Juger si un enfant ou un adulte vulnérable est en sécurité, se rendre à domicile et agir — y compris en vertu de pouvoirs légaux — lorsqu'il ne l'est pas.
Encore menée par des humains✓ Appuyé sur des preuves
Où ceci s'applique
Le service des affaires humaines du comté d'Allegheny a lui-même publié cette synthèse sur son propre site d'analyse, rassemblant des recherches externes évaluées par des pairs et des documents de travail sur l'Allegheny Family Screening Tool (AFST), que le comté utilise depuis 2016 pour aider les agents chargés du filtrage des appels à décider si un signalement de maltraitance ou de négligence supposée doit être instruit. Le document porte la date d'avril 2024 et a été publié le 31 mai 2024 — un récit de première main sur la manière dont l'outil est réellement utilisé, et non la description par un fournisseur de ce qu'il sait faire. Trois affirmations qu'il contient portent le jugement pour cette tâche. Premièrement, sur la décision elle-même : le comté écrit que l'information de risque de l'AFST est utilisée « aux côtés d'autres informations dans le processus d'orientation », que les superviseurs de l'accueil « ont la latitude d'annuler les sélections par défaut et le font régulièrement », et que les superviseurs ont historiquement annulé environ un quart des recommandations obligatoires d'ouverture d'enquête. Deuxièmement, sur ce qui se passe après le filtrage : une fois qu'un signalement est retenu pour enquête, « ni l'enquêteur désigné ni aucun travailleur social ne voient jamais le score de l'AFST, de sorte qu'il n'affecte ni les évaluations finales de maltraitance ni les décisions d'ouvrir un dossier ou de retirer un enfant de son foyer » — le score n'atteint jamais la décision légale de retrait. Troisièmement, en citant De-Arteaga et al. (2020) : pendant une période où un dysfonctionnement logiciel a fait apparaître certains scores de façon incorrecte, les décisions réellement prises par les agents de filtrage se sont révélées plus proches du risque réel sous-jacent que des scores erronés affichés — ce que le comté lit comme la preuve que le personnel exerce un jugement indépendant plutôt que de suivre le chiffre affiché. Ce que cela n'établit pas : la charge de dossiers, les effectifs, le temps que prend une décision de filtrage, ni la mesure dans laquelle cela se généralise au-delà de la ligne d'aide à la protection de l'enfance d'un seul comté. Le comté d'Allegheny a lui-même construit, financé et exploité l'AFST, de sorte qu'une affirmation sur sa propre retenue dans son usage n'équivaut pas à un audit externe parvenant à la même conclusion — même si les études universitaires citées sont indépendantes du comté.
Ce que cela veut dire
L'outil qui signale un risque à l'accueil n'est pas la personne qui décide. Le propre récit du comté d'Allegheny indique qu'un superviseur peut annuler, et annule régulièrement, la recommandation par défaut de l'algorithme, et qu'une fois un dossier ouvert pour enquête, le score de risque disparaît entièrement — la personne qui enquête, comme toute décision de retirer un enfant, ne le voit jamais.
Ce que cela ne montre pas encore
Il s'agit de la ligne d'aide à la protection de l'enfance d'un seul comté, non d'une mesure de la charge de dossiers, des effectifs ou du temps que prend une décision de filtrage, et cela ne dit rien du travail social en dehors de ce cadre. Le comté a lui-même construit et exploite l'outil, de sorte que son récit de sa propre retenue n'est pas un audit externe parvenant à la même conclusion.
Ce que vous pouvez vérifier
Demandez à la personne qui dirige le tri des risques dans votre propre cadre une chose : une fois que l'outil signale un dossier, qui est la dernière personne à le toucher avant une action irréversible, et le nom de cette personne figure-t-il au dossier ?
Cela change-t-il l'évaluation ?
Non. L'indice d'impact n'est jamais déplacé par un seul événement. Ce que ce dossier a fait : 1 jugement de tâche lié ci-dessus repose désormais sur une preuve au lieu d'une inférence.
Source
Allegheny County Department of Human Services — Summarizing Recent Research on Predictive Risk Models in Child Welfare (April 2024) · vérifié 2026-09-24 · VOLO agent loop · interprété 2026-09-24 · VOLO agent loop
Source primaire — publiée par la partie qui a fait la chose, ou par l'autorité de référence. Aucune contresignature nécessaire.