一个诉求 · 我们组织起来,使四项权利能够得到强制落实

权力必须回答

他们通过系统评判你的生活,把结果交给你,却藏起作出决定的手。你不必接受这个循环。权力必须回答。

系统影响了你的生活,随后却拒绝亮出它的手。

一份工作消失了。一项福利停发了。一个声音被埋没了。一扇门关上了。本应有一个可问责的人站在那里,你遇到的却是分数、门户网站,或照本宣科的回答。

你不是在向机器乞求怜悯。你是在主张自己的权利:知道发生了什么,质问其理由,找到有权作主的人,并修复损害。

你不是那个分数。
你是系统必须回答的人。

没有告知、理由、可问责的人类申诉渠道和修复权力,就不得作出具有实质后果的自动化判断。

具有实质后果的自动化判断,包括分数、排名、分类、生成摘要、建议、推断、内容管理措施或工作流程,只要它实质性地影响工作、报酬、教育、住房、信贷、保险、医疗行政管理、福利、公共服务、法律地位、可见度、声誉、获取资格、安全或机会。

01

告知

告诉受影响者:某个自动化或人工智能辅助系统对结果产生了实质影响。说明系统的作用、负责机构、决定日期,以及可长期引用的案件编号。

含糊地提到“技术”,不算告知。

02

理由

用人能理解的语言,说明影响结果的主要数据、规则、目标、重要因素、原始记录和推断。

“算法决定的”不是理由。

03

可问责的人类申诉

提供一位具名或可识别身份的复核人员,让其拥有时间、独立性、相关信息,以及重新考虑并推翻结果的真实权力。

聊天机器人循环不是申诉。

04

修复

纠正不准确的源数据,补充缺失背景,通知下游系统,在有正当理由时撤销结果,并恢复失去的获取资格、报酬、身份地位、机会、传播范围、声誉或社会地位。

没有下游修复的纠正,会让机器的谎言继续活着。

同样的四项权利贯穿不同机构。

各行业的措辞会变,公共标准不会变。

就业与招聘教育与纪律处分公共福利信贷与保险住房平台可见度创作者变现医疗行政管理身份与欺诈系统

提交请求。保存答复。记录沉默。

一个请求就能形成一份记录。通过同事、工会、租户、学生、患者、创作者和邻里协同提交请求,会使推诿显形,也让集体谈判成为可能。

当人们重复提出诉求、比较结果,并展示哪些机构纠正了记录、哪些拒绝回答时,诉求就会成为公众的力量。

如果权力评判了你,就让它书面作答。
下一个人值得拥有你迫使其产生的这份记录。

这是公民与设计标准,不是法律建议。适用法律、合同、期限和救济方式各不相同。保存证据,并在事关重大时寻求合格人士的帮助。