告知
告诉受影响者:某个自动化或人工智能辅助系统对结果产生了实质影响。说明系统的作用、负责机构、决定日期,以及可长期引用的案件编号。
含糊地提到“技术”,不算告知。
他们通过系统评判你的生活,把结果交给你,却藏起作出决定的手。你不必接受这个循环。权力必须回答。
一份工作消失了。一项福利停发了。一个声音被埋没了。一扇门关上了。本应有一个可问责的人站在那里,你遇到的却是分数、门户网站,或照本宣科的回答。
你不是在向机器乞求怜悯。你是在主张自己的权利:知道发生了什么,质问其理由,找到有权作主的人,并修复损害。
你不是那个分数。
你是系统必须回答的人。
告诉受影响者:某个自动化或人工智能辅助系统对结果产生了实质影响。说明系统的作用、负责机构、决定日期,以及可长期引用的案件编号。
含糊地提到“技术”,不算告知。
用人能理解的语言,说明影响结果的主要数据、规则、目标、重要因素、原始记录和推断。
“算法决定的”不是理由。
提供一位具名或可识别身份的复核人员,让其拥有时间、独立性、相关信息,以及重新考虑并推翻结果的真实权力。
聊天机器人循环不是申诉。
纠正不准确的源数据,补充缺失背景,通知下游系统,在有正当理由时撤销结果,并恢复失去的获取资格、报酬、身份地位、机会、传播范围、声誉或社会地位。
没有下游修复的纠正,会让机器的谎言继续活着。
各行业的措辞会变,公共标准不会变。
一个请求就能形成一份记录。通过同事、工会、租户、学生、患者、创作者和邻里协同提交请求,会使推诿显形,也让集体谈判成为可能。
当人们重复提出诉求、比较结果,并展示哪些机构纠正了记录、哪些拒绝回答时,诉求就会成为公众的力量。
如果权力评判了你,就让它书面作答。
下一个人值得拥有你迫使其产生的这份记录。
这是公民与设计标准,不是法律建议。适用法律、合同、期限和救济方式各不相同。保存证据,并在事关重大时寻求合格人士的帮助。