LO
RestriçãoAutomatização cognitiva2019-06-07
GAO dos EUA: um regulador estadual relatou o caso de uma seguradora incapaz de explicar um fator do seu modelo de risco construído com IA
Atuáriopágina da profissão →
Data do facto / publicação
2019-06-07
Categoria da prova
RestriçãoUma falha, um recuo, uma regulação ou um custo estão a travar a adoção. Pode baixar uma avaliação ou alargar a sua incerteza.
Tarefas sobre as quais incide
Explicar o número a quem decide
Dizer a um conselho de administração, a uma equipa de produto ou a um regulador o que o modelo pressupõe, onde é fraco e o que mudaria a conclusão.
Continua a ser levada por uma pessoa✓ Com prova
Onde é que isto se aplica
Relatório do Gabinete de Responsabilização do Governo dos EUA (GAO) de 7 de junho de 2019 (GAO-19-423, Insurance Markets: Benefits and Challenges Presented by Innovative Uses of Technology), com base nas entrevistas do próprio GAO a mais de 35 partes interessadas: reguladores de seguros federais e estaduais, seguradoras, empresas tecnológicas e organizações de consumidores. Relata que os intervenientes do setor entrevistados pelo GAO disseram que os modelos de tarifação que usam IA e aprendizagem automática são hoje muitas vezes construídos por cientistas de dados e não por atuários, que podem não compreender plenamente os requisitos próprios dos seguros, ter dificuldade em medir o impacto de uma nova variável e não saber como explicar o seu trabalho aos reguladores estaduais. Cita o relato de um regulador estadual sobre uma seguradora não identificada que não conseguiu explicar como um fator que tinha introduzido no seu modelo de risco, a proximidade de uma habitação a uma creche, se relacionava com o risco de um consumidor, e refere que um grupo atuarial apelou a uma colaboração mais estreita entre atuários e cientistas de dados para dar mais garantias aos reguladores. Isto estabelece que explicar a um regulador os fatores de um modelo construído com IA é uma tarefa feita por uma pessoa, e que pode falhar, num caso documentado; não identifica a seguradora nem o regulador, não diz com que frequência estas falhas ocorrem e é o relato do GAO sobre o que as partes interessadas lhe disseram, não um exame direto da empresa pelo GAO.
O que isto significa
As entrevistas de um organismo de fiscalização do governo mostram que explicar a um regulador um modelo construído com IA é trabalho de uma pessoa, e que pelo menos uma empresa falhou nessa explicação quando quem construiu o modelo não eram atuários.
O que ainda não mostra
Não identifica a seguradora nem o regulador, nem diz quão comum é esta falha, e não afirma que noutras seguradoras esta explicação seja sempre feita por atuários; apenas que é um trabalho que alguém tem de fazer bem, sob pena de ter o mesmo resultado.
O que podes verificar
Se o seu trabalho inclui defender os fatores de um modelo perante um regulador ou um conselho de administração, pergunte-se se o senhor, ou quem construiu o modelo, conseguiria explicar no momento cada um dos seus dados de entrada, como este regulador pediu a uma seguradora.
Muda a avaliação?
Não. O índice de impacto nunca é movido por um único facto. O que este registo fez: 1 juízo de tarefa ligado em cima apoiam-se agora em prova em vez de em inferência.
Fonte
U.S. Government Accountability Office — Insurance Markets: Benefits and Challenges Presented by Innovative Uses of Technology (GAO-19-423) · verificado 2026-10-15 · VOLO agent loop · interpretado 2026-10-15 · VOLO agent loop
Fonte primária: publicada pela parte que fez isto, ou pela autoridade de referência. Não precisa de coassinatura.