# GAO américaine : un régulateur d'État a relaté le cas d'un assureur incapable d'expliquer un facteur de son modèle de risque construit par IA

Page: https://flyvolo.ai/fr/changes/ev-20190607-actuary-3
Date: 2019-06-07 · Étape: Contrainte
Ce relevé peut-il faire évoluer un jugement sur une tâche ? oui
Métier: https://flyvolo.ai/fr/careers/actuary

## Périmètre

Rapport de l'Office de contrôle des comptes du gouvernement américain (GAO) du 7 juin 2019 (GAO-19-423, Insurance Markets: Benefits and Challenges Presented by Innovative Uses of Technology), fondé sur les propres entretiens de la GAO avec plus de 35 parties prenantes : régulateurs fédéraux et des États en matière d'assurance, assureurs, entreprises technologiques et associations de consommateurs. Il rapporte que les acteurs du secteur interrogés par la GAO ont déclaré que les modèles de tarification utilisant l'IA et l'apprentissage automatique sont désormais souvent construits par des data scientists plutôt que par des actuaires, qui peuvent ne pas bien comprendre les exigences propres à l'assurance, avoir du mal à mesurer l'effet d'une nouvelle variable et ne pas savoir comment expliquer leur travail aux régulateurs des États. Il cite le récit d'un régulateur d'État au sujet d'un assureur non nommé qui n'a pas pu expliquer en quoi un facteur qu'il avait intégré à son modèle de risque, la proximité d'un logement avec une crèche, était lié au risque d'un consommateur, et mentionne qu'un groupement actuariel a appelé à une collaboration plus étroite entre actuaires et data scientists pour mieux rassurer les régulateurs. Cela établit qu'expliquer à un régulateur les facteurs d'un modèle construit par IA est une tâche accomplie par une personne, et qui peut échouer, dans un cas documenté ; il ne nomme ni l'assureur ni le régulateur, ne dit pas à quelle fréquence de tels échecs se produisent et constitue le récit par la GAO de ce que les parties prenantes lui ont dit, non un examen direct de l'entreprise par la GAO.

## Source

- U.S. Government Accountability Office — Insurance Markets: Benefits and Challenges Presented by Innovative Uses of Technology (GAO-19-423) — https://www.gao.gov/assets/gao-19-423.pdf (source primaire)

## Ce que cela veut dire

Les entretiens d'un organe de contrôle gouvernemental montrent qu'expliquer à un régulateur un modèle construit par IA est un travail de personne, et qu'au moins une entreprise a échoué dans cette explication lorsque ceux qui avaient construit le modèle n'étaient pas des actuaires.

## Ce qu’il ne montre pas encore

Il ne nomme ni l'assureur ni le régulateur et ne dit pas à quel point cet échec est courant, et il n'affirme pas que dans d'autres assureurs cette explication soit toujours faite par des actuaires ; seulement que c'est un travail que quelqu'un doit bien faire, sous peine du même résultat.

## Comment le vérifier vous-même

Si votre travail consiste notamment à défendre les facteurs d'un modèle devant un régulateur ou un conseil d'administration, demandez-vous si vous, ou la personne qui a construit le modèle, pourriez expliquer sur-le-champ chacune de ses données d'entrée, comme ce régulateur l'a demandé à un assureur.


Plus : https://flyvolo.ai/llms.txt