加拿大联邦自动化决策规则规定,由一名指定的高级官员对人工推翻、系统故障、纠正措施和申诉渠道负责

事件日期 / 报道日期

2025-06-24

证据阶段

限制或撤回失败、撤回、监管或成本正在抑制采用。可以下调评估,或扩大不确定区间。

关联任务

它做错的时候站在那里

弄清楚发生了什么、告诉被影响的人、决定要不要关掉它,并说明改了什么使它不会以同样的方式再发生一次。

仍由人主导✓ 有证据支撑

适用范围

加拿大,联邦机构。该指令规定,使用自动化决策系统的项目的助理副部长,或副部长指定的其他高级官员,负责记录客户反馈、意外影响、人工推翻和系统故障;利用这些发现找出问题并采取纠正措施;并告知客户对决定提出异议的途径。只涉及联邦行政决定;负责的是高级官员,不一定是实施该系统的人。

这意味着什么

在加拿大联邦政府,自动化决策系统出问题时,由一个具名的人负责修正,并对受影响的人作出交代。

还不能说明什么

一个国家的联邦行政决定;它指定的是高级官员,而不是实施负责人。

你可以核实什么

打开《自动化决策指令》,找到 "human overrides of the decision or assessment made by the system"。

是否改变评估

否。影响指数不会被单条事件改变。这条记录做到的是:上面 1 项关联任务的判断从「推断」变成了「有证据支撑」。

来源

一手来源 —— 由做这件事的当事人或记录的权威机构发布,无需联署。