LO
ContrainteAutomatisation cognitive2019-06-07
GAO américaine : un régulateur d'État a relaté le cas d'un assureur incapable d'expliquer un facteur de son modèle de risque construit par IA
Actuairepage du métier →
Date de l'événement / signalement
2019-06-07
Stade de la preuve
ContrainteUn échec, un retour en arrière, une réglementation ou un coût freine l'adoption. Cela peut abaisser une appréciation ou élargir son incertitude.
Tâches concernées
Expliquer le chiffre à ceux qui décident
Dire à un conseil d'administration, à une équipe produit ou à un régulateur ce que le modèle suppose, où il est fragile et ce qui changerait la conclusion.
Encore menée par des humains✓ Appuyé sur des preuves
Où ceci s'applique
Rapport de l'Office de contrôle des comptes du gouvernement américain (GAO) du 7 juin 2019 (GAO-19-423, Insurance Markets: Benefits and Challenges Presented by Innovative Uses of Technology), fondé sur les propres entretiens de la GAO avec plus de 35 parties prenantes : régulateurs fédéraux et des États en matière d'assurance, assureurs, entreprises technologiques et associations de consommateurs. Il rapporte que les acteurs du secteur interrogés par la GAO ont déclaré que les modèles de tarification utilisant l'IA et l'apprentissage automatique sont désormais souvent construits par des data scientists plutôt que par des actuaires, qui peuvent ne pas bien comprendre les exigences propres à l'assurance, avoir du mal à mesurer l'effet d'une nouvelle variable et ne pas savoir comment expliquer leur travail aux régulateurs des États. Il cite le récit d'un régulateur d'État au sujet d'un assureur non nommé qui n'a pas pu expliquer en quoi un facteur qu'il avait intégré à son modèle de risque, la proximité d'un logement avec une crèche, était lié au risque d'un consommateur, et mentionne qu'un groupement actuariel a appelé à une collaboration plus étroite entre actuaires et data scientists pour mieux rassurer les régulateurs. Cela établit qu'expliquer à un régulateur les facteurs d'un modèle construit par IA est une tâche accomplie par une personne, et qui peut échouer, dans un cas documenté ; il ne nomme ni l'assureur ni le régulateur, ne dit pas à quelle fréquence de tels échecs se produisent et constitue le récit par la GAO de ce que les parties prenantes lui ont dit, non un examen direct de l'entreprise par la GAO.
Ce que cela veut dire
Les entretiens d'un organe de contrôle gouvernemental montrent qu'expliquer à un régulateur un modèle construit par IA est un travail de personne, et qu'au moins une entreprise a échoué dans cette explication lorsque ceux qui avaient construit le modèle n'étaient pas des actuaires.
Ce que cela ne montre pas encore
Il ne nomme ni l'assureur ni le régulateur et ne dit pas à quel point cet échec est courant, et il n'affirme pas que dans d'autres assureurs cette explication soit toujours faite par des actuaires ; seulement que c'est un travail que quelqu'un doit bien faire, sous peine du même résultat.
Ce que vous pouvez vérifier
Si votre travail consiste notamment à défendre les facteurs d'un modèle devant un régulateur ou un conseil d'administration, demandez-vous si vous, ou la personne qui a construit le modèle, pourriez expliquer sur-le-champ chacune de ses données d'entrée, comme ce régulateur l'a demandé à un assureur.
Cela change-t-il l'évaluation ?
Non. L'indice d'impact n'est jamais déplacé par un seul événement. Ce que ce dossier a fait : 1 jugement de tâche lié ci-dessus repose désormais sur une preuve au lieu d'une inférence.
Source
U.S. Government Accountability Office — Insurance Markets: Benefits and Challenges Presented by Innovative Uses of Technology (GAO-19-423) · vérifié 2026-10-15 · VOLO agent loop · interprété 2026-10-15 · VOLO agent loop
Source primaire — publiée par la partie qui a fait la chose, ou par l'autorité de référence. Aucune contresignature nécessaire.