潘芳芳:算法歧视的民事责任形态
2021年12月14日      ( 正文字号: )
[ 导语 ]
       算法决策技术在人们日常生活中的广泛使用,引发人们对算法歧视危害后果的普遍关注。不同领域的专家和学者从各自不同的视角出发,提出了多元的解决方案。时间维度的规制方案划分中,包括事前的预防和制止模式与法规范领域传统的事后追责与救济模式。然在欠缺统一的标准、规则和专业的人员与组织配备的情况下,事前预防模式的功能发挥受到诸多限制,不具备基本的现实性和可操作基础。传统权益保护制度框架内的事后追责与救济建构,仍是目前为受害人提供基本救济最具可行性和急迫性的路径。对此,中国政法大学人权研究院潘芳芳博士研究生在《算法歧视的民事责任形态》一文中,以《个人信息保护法》为依据,在定型化的民事权益保护与救济框架内,探讨不同场景下算法歧视的责任形态,为受害人寻求司法救济提供理论基础和规范支撑。
一、无缔约情形下的算法侵权责任

(一)算法歧视的侵权行为样态
    无缔约情形下的算法侵权是指算法决策程序的行为人和被决策者之间不具有特殊的缔约或合同关系,但被决策者却因行为人所实施的算法歧视行为而遭受损害。依据主体主观状态和行为样态的不同,将算法歧视行为划分为通过积极的作为所实施的故意侵权行为和因过失违反作为义务而承担的过失侵权责任。
    在算法歧视场景下的计算机程序运行遵循“BIBO”(Bias In, Bias Out)定律,即偏见进,偏见出——若输入的数据具有歧视的性质,那么输出的算法决策结果就必然带有歧视色彩。将部分可能造成歧视后果的“敏感数据”排除算法决策体系的自变量范畴,是规范领域反算法歧视的基本要求。若行为人在算法程序运行中使用了歧视性“敏感数据”或可能造成歧视性后果的数据,便可推定其主观上故意实施了算法歧视的侵权行为。除非行为人能够对所使用“敏感数据”与最终决策之间合理、正当的关联性和数据使用的必然性进行解释和说明,并能够证明自身已经采取适当的措施,避免因敏感数据使用而带来的歧视性后果。关于“敏感数据”的认定,《个人信息保护法》在“人格尊严”与“人身、财产安全”的双重保护目标与功能下对“敏感个人信息”进行界定。保护当事人免受歧视性待遇是保护当事人“人格尊严”的重要内容,故但凡非交往或交易中所必须,但一旦在算法决策程序中使用就会招致歧视性待遇和后果的信息,均可经扩张解释,纳入“敏感个人信息”范畴内。
    行为人引入算法决策系统辅助、部分或者全部地代替人类决策,开启了被决策者可能遭受歧视性待遇的危险,行为人应为自己这种“先前危险行为”负担一定的作为义务,以预防和避免算法歧视现象的发生。包括算法程序运行的影响评估与合规审计义务以及算法程序的有限透明和可解释性义务。
    对算法程序运行的影响评估与合规审计从信息安全与程序公平两方面展开核查。对信息进行审查与评估的内容主要包括信息的处理目的、处理方式等是否合法、正当、必要,对个人的影响及风险程度,以及采取的安全保护措施是否合法、有效与风险程度相适应。此外,为防止产生“关联歧视”须对敏感性“关联数据”进行检测与排查,并保证所使用数据和信息的质量和准确度以防数据错误、遗漏或更新不及时等问题。针对不同场景下的算法决策技术的使用,“审慎适用”和精细化的“分类监管”是对算法决策程序进行的审查和评估的基本模式和思路。
    当前《民法典》和《个人信息保护法》均未明确赋予信息主体享有“解释权”,但算法程序的有限透明和可解释性义务并未突破“权利类型”法定的规范传统,而是对灵活、包容、开放的“作为义务”内容的适度扩张,通过行为人“可解释性义务”的负担,实现或保障算法决策的公开与透明。解释义务的履行包括算法解释和算法信息披露两个方面。此外,不同的场合和适用场景下,解释的内容、侧重点也会有所区别。
   (二)算法歧视的行为认定与损害后果
    在算法歧视案件的审理过程中,对于不公平的歧视待遇的认定与审查,主要有区别待遇和差异影响两种模式。以“区别待遇”模式为基础的歧视认定规则,主要包括同样的情况遭受不同的对待、有主观上的歧视意图两个因素。“差异影响”无须考量主体实施行为或者规则的时候是否有歧视的故意,只需审查行为或者规则实施以后,是否针对对方产生差异性的影响。
    针对“主观故意实施算法歧视”的行为,法官可采“区别对待”模式进行审查与认定,而当行为人消极不作为违反应当履行的歧视风险预防和制止义务时,则采“差异影响”的审查模式。即在被决策者能够证明算法决策给自己带来了不利的差异性后果,且行为人不能证明自己没有过错时,认定行为人违反了歧视风险的预防和制止义务,承担损害赔偿的侵权责任。

二、磋商中的缔约过失责任

(一)先合同义务的内容
    合同缔结的算法引入者与被决策者之间,在专业知识以及信息获取能力和数量上明显失衡,有必要给予被决策者倾斜性的法律保护。故在双方当事人磋商和接触过程中,引入算法决策程序的行为人应承担先合同义务。包括算法程序使用的告知、披露义务以及歧视风险的评估、审计与预防义务。
    算法程序运作机理的解释、说明和披露的内容包括数据和程序两个方面。数据信息层面,包括出于个人信息保护目的所要求告知的内容和作出算法决策结果所依据的数据类别,具体来源、不同数据的权重以及所输入数据与最终决策结果之间的关联性等与算法程序运行相关的数据信息。与算法程序运行逻辑相关的信息包括引入算法程序的功能和目的、算法决策结果在最终决策中的重要性,决策结果可能存在的风险、会对被决策者产生的影响和后果等。此外,针对被决策者对数据的相关信息和程序运行机理所产生质疑、反馈,行为人也有义务进行解释和说明并在必要时修正和完善。同时,告知亦应通过“简单透明、明晰且容易获取的方式,清楚明确的语言,合适的方式”进行,信息的提供亦需满足“简单明了、清晰可见、晓畅易读”的要求。
    基于算法程序运行的自身特性,行为人的评估与审计对象既包括基础数据和信息,又包括算法程序自身。在基础数据和信息层面,行为人应进行“脱敏”处理,避免带有歧视色彩的数据和歧视数据关联数据的使用,并保证输入的数据和信息来源合法、内容完整、准确。程序的歧视风险评估和审计包括通过程序核检和试运行等方式,在其内部对程序的歧视风险进行评估和审计的“内部分析”与通过引入或委托具备相应资格的外部力量进行歧视风险分析的两种方式。
    (二)缔约过失赔偿责任
    若在双方当事人磋商和接触过程中,引入算法决策程序的行为人未尽上述先合同义务,致使被决策者遭受算法的歧视性待遇,影响了合同的缔结,使合同不成立或成立后无效、被撤销时,行为人应承担缔约上过失之责任,赔偿对方因信赖合同成立而遭受的信赖利益损失和人身、财产权益遭受损害导致的完全性利益损失。此外,若算法程序对被决策者作出的带有歧视性的评估和预测结果因对外泄露和公布使被决策者人身、财产等完全性利益遭受进一步损害时,行为人还应当对扩大的损害后果承担相应的责任,且这部分损害责任的承担与原本的缔约过失责任承担之间产生责任竞合,受害人既可以选择基于侵权请求权,也可以选择基于缔约过失请求权请求赔偿损失。

三、合同履行中的算法违约责任

(一)合同履行中的附随义务
    在具有合同关系的算法引入者与被决策者之间,需要对行为人课以与算法决策程序使用关联的附随义务,除上述对算法歧视风险进行预防和避免的积极保护义务外还包括信息安全保障义务和提供程序性保障义务。因算法技术的展开和运行,以收集、使用和处理个人信息为基础,故信息安全保障义务的履行必须符合个人信息保护相关的法律法规规定。
    行为人程序性保障义务的履行主要体现为相关信息的告知和披露。首先,主动引入算法决策程序的一方有义务告知对方将算法程序引入合同履行中的目的和功能,算法程序发挥作用的阶段和范围,可能会对相对人带来的风险和影响等信息,并以对方明确“知情且同意”作为引入算法决策程序的前提。其次,在被决策对象需要了解时,行为人有义务对所引入的算法程序的运行机理向被决策者告知和说明。再次,行为人应积极、主动地告知和提醒相对人在算法程序运行中所享有的知情、参与、查询、更正(数据和信息)和选择(参与或退出)的权利。
   (二)违约责任的认定与承担
    违反上述附随义务而导致违约责任的承担,以歧视后果发生、对方因遭受了歧视性待遇而使人身或财产遭受实害为前提。歧视性待遇的认定,采无过错的“差异影响”审查模式。关于责任承担方式,原则上,违反附随义务而导致的违约责任的承担,只能“就其所受损害,得依不完全履行规定,请求损害赔偿”,而不得要求解除合同。

四、结语

算法歧视责任形态的变化,伴随着侵权责任到缔约过失责任再到合同违约责任的过渡。在无缔约情形下,利用算法决策的行为人如使用敏感数据,应推定其存在侵权故意。在其他情形下,由于行为人负有对算法程序的影响评估和合规审计义务以及一定的算法解释和说明义务,违反义务本身即可认定其有过错。在缔约磋商和合同履行过程中,上述保护义务可归入前合同义务及附随义务的范畴,且行为人还负有信息安全保护和正当程序保障义务。上述责任形态发生竞合时,为更好实现对被决策者的权益保护,应赋予其选择权。


    (本文文字编辑唐子航。本文未经原文作者审核。本文为中国民商法律网“原创标识”作品。凡未在“中国民商法律网”微信公众号正式发布的文章,一律不得转载。)


    文献链接:《算法歧视的民事责任形态

[ 参考文献 ]

本文选编自潘芳芳:《算法歧视的民事责任形态》,载《华东政法大学学报》2021年第5期。
【作者简介】潘芳芳,中国政法大学人权研究院博士研究生,丹麦哥本哈根大学联合培养博士研究生。

推荐阅读
许可:算法规制体系的中国建构与理论反思
我国算法规制体系应引入“算法发展”平衡算法安全,引入“权利公平”补充算法公平,引入“私人自主”调和算法向善。
王利明:论《民法典》实施中的思维转化——从单行法思维到法典化思维
本文深刻探讨了如何从单行法思维向法典化思维转化,体系化解读《民法典》。
李建伟:授权资本发行制与认缴制的融合——公司资本制度的变革及公司法修订选择
新一轮《公司法》修订的资本制度改革,要以激励投资创业、降低公司设立成本、平衡各方利益的规则体系之构建为导向。
热门排行
学术公告
问答集锦
相关文章
本期评价
0个赞
0个踩
敬请关注中国法学会民法典编纂项目领导小组组织撰写的《中华人民共和国民法典•民法总则专家建议稿(征求意见稿)》

编辑:唐子航

向编辑提问:

分享

扫二维码
用手机看民商
用微信扫描
还可以分享至
好友和朋友圈

中国民法学研究会
教育部人文社会科学重点研究基地
中国人民大学民商事法律科学研究中心

本网站由王利明教授创办并提供全部运作资金 Copyright◎2000-2021 All Rights Reserved 京ICP备2022010855号  
E-mail: ccclarticles@126.com