LO
ContrainteAutomatisation cognitive2024-07-11
Le régulateur des assurances de New York attend des assureurs qu'ils testent la souscription par IA au regard de la discrimination injuste avant usage puis régulièrement, et qu'ils disent aux demandeurs pourquoi un processus d'IA les a refusés
Souscripteur d'assurancepage du métier →
Date de l'événement / signalement
2024-07-11
Stade de la preuve
ContrainteUn échec, un retour en arrière, une réglementation ou un coût freine l'adoption. Cela peut abaisser une appréciation ou élargir son incertitude.
Tâches concernées
Souscrire les demandes standard
Accepter ou refuser les demandes simples — candidats en bonne santé, petits capitaux, risques standard de petites entreprises — au regard des règles de l'assureur.
En cours d'automatisation✓ Appuyé sur des preuves
Entretenir les règles selon lesquelles la machine décide
Rédiger et ajuster les règles de souscription automatisée, contrôler leurs décisions et surveiller les résultats injustes ou qui dérivent.
Nouvelle tâche✓ Appuyé sur des preuves
Où ceci s'applique
L'État de New York seulement : une lettre circulaire du Department of Financial Services adressée à chaque assureur agréé dans l'État, publiée dans sa version définitive le 11 juillet 2024 après une version proposée en janvier. À lire pour ses verbes. La lettre n'emploie « must » (doit) qu'au sens étroit — les assureurs doivent pouvoir démontrer que les données externes sur les consommateurs qu'ils utilisent ne sont pas interdites, et doivent consigner et conserver les réclamations relatives aux systèmes d'IA et aux données externes. Ce qui touche au travail de souscription est rédigé comme une attente de supervision : un assureur ne devrait pas utiliser de systèmes d'IA ni de données externes sur les consommateurs dans la souscription ou la tarification à moins de pouvoir établir qu'ils ne sont pas discriminatoires de façon injuste ou illégale ; ces tests devraient être menés avant la mise en production d'un système, à intervalles réguliers et chaque fois que le modèle ou les données changent de façon significative, avec un test des résultats du modèle, dérive comprise, au moins une fois par an, documenté et tenu à la disposition du Department ; les assureurs devraient disposer d'un personnel compétent et qualifié pour exécuter et superviser cette gestion des risques, et ne peuvent pas se fier uniquement à l'affirmation d'un fournisseur selon laquelle il n'y a pas de discrimination. Lorsqu'un processus fondé sur l'IA ne peut pas souscrire un demandeur, l'assureur devrait lui en indiquer les raisons par écrit dans un délai de 15 jours et continuer à instruire sa demande par le processus sans IA. Elle ne dit pas qui, chez un assureur, réalise les tests — souscripteurs, actuaires ou équipe chargée du risque de modèle — et elle n'exige pas qu'une personne décide de chaque demande individuelle.
Ce que cela veut dire
Là où la souscription automatisée est utilisée à New York, le régulateur attend que quelqu'un teste les décisions de la machine au regard de la discrimination injuste avant sa mise en service et continue de les tester, dérive comprise, avec un personnel qualifié qui en répond. C'est le travail nouveau que décrit la page du souscripteur — contrôler les règles selon lesquelles la machine décide — consigné comme une attente de supervision.
Ce que cela ne montre pas encore
Ce sont des orientations rédigées surtout au conditionnel (« should »), pour un seul État ; elles ne disent pas si ce sont les souscripteurs, les actuaires ou une équipe distincte chargée du risque de modèle qui réalisent les tests, et ne disent rien du nombre de souscripteurs.
Ce que vous pouvez vérifier
Ouvrez l'« Insurance Circular Letter No. 7 (2024) » du Department of Financial Services et cherchez la phrase qui commence par « Unfair or unlawful discrimination testing and analysis should be administered prior to putting AIS into production ».
Cela change-t-il l'évaluation ?
Non. L'indice d'impact n'est jamais déplacé par un seul événement. Ce que ce dossier a fait : 2 jugements de tâche liés ci-dessus reposes désormais sur une preuve au lieu d'une inférence.
Source
New York State Department of Financial Services — Insurance Circular Letter No. 7 (2024): Use of Artificial Intelligence Systems and External Consumer Data and Information Sources in Insurance Underwriting and Pricing (11 July 2024) · vérifié 2026-09-27 · Claude (VOLO agent) · interprété 2026-09-27 · Claude (VOLO agent)
Source primaire — publiée par la partie qui a fait la chose, ou par l'autorité de référence. Aucune contresignature nécessaire.