O regulador de seguros de Nova Iorque espera que as seguradoras testem a subscrição por IA quanto a discriminação injusta antes do uso e regularmente depois, e que expliquem aos proponentes porque é que um processo de IA os recusou

Data do facto / publicação

Categoria da prova

Tarefas sobre as quais incide

Onde é que isto se aplica

Apenas o Estado de Nova Iorque: uma carta circular do Department of Financial Services a todas as seguradoras autorizadas no estado, emitida na versão final a 11 de julho de 2024, depois de uma versão proposta em janeiro. Lê-a pelos verbos. A carta só usa «tem de» de forma restrita — as seguradoras têm de conseguir demonstrar que os dados externos de consumidores que usam não são proibidos, e têm de registar e conservar as reclamações sobre sistemas de IA e dados externos. O que diz respeito ao trabalho de subscrição está escrito como expectativa de supervisão: uma seguradora não deveria usar sistemas de IA nem dados externos de consumidores na subscrição ou na tarifação, a menos que consiga demonstrar que não são injusta ou ilegalmente discriminatórios; esses testes deveriam ser feitos antes de um sistema entrar em produção, com uma cadência regular e sempre que o modelo ou os dados mudem de forma significativa, com testes aos resultados do modelo, incluindo a deriva, pelo menos uma vez por ano, documentados e à disposição do Department; as seguradoras deveriam ter pessoal competente e qualificado para executar e supervisionar esta gestão de risco, e não podem basear-se apenas na garantia de não discriminação dada por um fornecedor. Quando um processo baseado em IA não consegue subscrever um proponente, a seguradora deveria explicar-lhe porquê, por escrito, no prazo de 15 dias, e continuar a subscrevê-lo através do processo sem IA. Não diz quem, dentro de uma seguradora, faz os testes — subscritores, atuários ou uma equipa de risco de modelos — e não exige que uma pessoa decida cada proposta individual.

O que isto significa

O que ainda não mostra

É uma orientação escrita sobretudo no condicional «deveria», para um único estado; não diz se são subscritores, atuários ou uma equipa separada de risco de modelos a fazer os testes, e nada diz sobre quantos subscritores existem.

O que podes verificar

Muda a avaliação?

Fonte