# 美国政府问责局:一名州监管者讲述一家保险公司无法解释其AI风险模型中的一个因子

网页: https://flyvolo.ai/zh/changes/ev-20190607-actuary-3
日期: 2019-06-07 · 阶段: 限制或撤回
这条记录能改变任务判断吗? 能
职业: https://flyvolo.ai/zh/careers/actuary

## 适用范围

美国政府问责局(GAO)2019年6月7日发布的报告(GAO-19-423,《保险市场:创新技术应用带来的收益与挑战》),材料来自GAO自己对35多位利益相关方——联邦与各州保险监管者、保险公司、科技公司与消费者团体——的访谈。报告称,GAO采访的业内人士表示,使用AI与机器学习的风险模型如今常常由数据科学家而非精算师搭建,而数据科学家可能不完全理解保险业特有的要求、难以衡量模型新变量的影响,也可能不知道该如何向州监管者说明自己的工作。报告引述一名州监管者讲述的一个案例:一家未具名的保险公司无法解释自己填入风险模型的一个因子——房屋与日托中心的距离——与消费者风险之间的关系;报告还提到一个精算团体呼吁精算师与数据科学家加强协作,以让监管者更放心。这确立了:向监管者解释一个AI搭建的模型里的因子,是一项由人来做、也会在具体案例中失败的工作;它没有点名涉事的保险公司或监管者,没有说明这类失败有多常见,而且这是GAO转述利益相关方说法的记录,不是GAO自己对该公司的直接调查。

## 来源

- U.S. Government Accountability Office — Insurance Markets: Benefits and Challenges Presented by Innovative Uses of Technology (GAO-19-423) — https://www.gao.gov/assets/gao-19-423.pdf (一手来源)

## 这意味着什么

一份政府监督机构自己的访谈发现,向监管者解释一个AI搭建的模型是由人来做的工作;而当搭建模型的人不是精算师时,至少有一家公司在这件事上吃了亏。

## 它还不能说明什么

它没有点名涉事的保险公司或监管者,也没有说明这类失败有多常见;它也没有说明在别的保险公司里,这项解释工作一定由精算师来做——只是说明这是一件必须有人做好的工作,否则会落到同样的下场。

## 怎么自己核实

如果你的工作包括向监管者或董事会为一个模型的因子辩护,问一问:你自己,或者搭建这个模型的人,能不能当场说清模型里的每一个输入——就像这位监管者曾经要求一家保险公司做到的那样。


更多: https://flyvolo.ai/llms.txt