As agências federais dos EUA têm de testar a IA de alto impacto antes da implantação ao abrigo do memorando M-25-21 do OMB — consultando o serviço e observando as saídas se não tiverem o modelo — e continuar a testar depois

Data do facto / publicação

Categoria da prova

Tarefas sobre as quais incide

Onde é que isto se aplica

Um memorando federal que vincula as agências do executivo dos EUA. Entre as práticas mínimas de gestão de risco para IA de alto impacto, as agências têm de elaborar planos de testes prévios à implantação e de mitigação de riscos que reflitam os resultados esperados no mundo real; quando não conseguem aceder ao código-fonte, aos modelos ou aos dados, têm de usar métodos de teste alternativos, como consultar o serviço de IA e observar as saídas ou fornecer dados de avaliação ao fornecedor; e, depois da implantação, têm de realizar testes e uma revisão humana periódica dos casos de uso de IA, quando exequível. Vincula as agências, e não os testadores pelo nome, e só cobre usos de alto impacto.

O que isto significa

O que ainda não mostra

A regra de um governo para as suas próprias agências; não mostra quem faz os testes nem com que qualidade.

O que podes verificar

Muda a avaliação?

Fonte