许可:算法规制体系的中国建构与理论反思
2022年4月20日      ( 正文字号: )
文章标签:互联网   网络治理   算法
[ 导语 ]
       在计算机和算法技术发展的影响下,2021年9月和10月,我国相继出台《关于加强互联网信息服务算法综合治理的指导意见》和《互联网信息服务算法推荐管理规定》两部规范性法律文件。这两部法律文件的问世,不但代表我国首次以“算法”作为法律文件名称,而且体现了我国全面回应算法挑战的体系性尝试。前述两部算法新规对于中国算法规制体系具备重要意义,宣示着中国算法规制体系已经初步建立,但同时也存在实践脉络尚未被梳理,理论症结尚未被探明等问题。对此,对外经济贸易大学法学院许可副教授在《算法规制体系的中国建构与理论反思》一文中,以两部新规为中心,深入剖析我国算法规制的形式与实质,并反思其可能的不足与改进之道,以期对算法治理的完善有所裨益。
一、中国算法规制的形式

(一)算法规制的主体

根据《算法推荐规定》第3条的规定,国家网信部门负责全国算法推荐服务的监督管理执法工作。自2014年以来,“国家互联网信息办公室”(以下简称“国家网信办”)在职权上逐渐获得统筹协调网络数据安全的监管权,并且与工业、电信、交通、金融、卫生健康等主管部门及公安部,就数据安全监管形成了“1+X”的监管架构。

随着信息技术的发展,原本属于“信息内容管控”或“网络安全管理”的事项,开始向“网络社会治理”迈进,个人信息保护、未成年保护、劳动者保护等议题相继凸显。但是,议题的复杂并未导致监管主体的分散。实证研究表明,我国的网络治理由分散化不断向集中化转变,从多达71个国家机关参与的监管结构,转向以国家网信办、工信部、公安部为主的核心治理结构。其中,《算法治理意见》还重申了国家网信办相对于其他政府部门具有监管的优先地位

(二)算法规制的对象

《算法推荐规定》真正的规制对象是“算法推荐服务”而非“算法推荐技术”。以“算法推荐服务”为规制对象的根本原因在于作为技术的算法之无法规制性,此外也有国家网信办信息内容管理上的职权考量。算法规制既是场景化的,需根据使用主体、针对对象、所涉事项,因地因时因人而异地采用不同的规制方法;也是场景性的,立足于法律系统与算法系统的二元性,发掘出两者冲突与耦合的互动机制及一般原理。二者兼备的规制思路形成了“总体计划、分步监管”的中国算法规制的特有路径。

(三)算法规制的方式

针对“算法服务”,《算法推荐规定》在传统的“巡警机制”和“火警机制”外,创造性地发展出了“片警机制”,形成了融三种机制于一体的规制体系。

其一,“巡警机制”意味着监管机构积极、主动、集中地履行职责,在事前、事中发现和纠正违反立法目标的算法行为,并通过实时性执法,阻止算法违法行为的发生或升级。

其二,“火警机制”意味着监管机构会建立一套实体规则和程序体系,为民众提供事后投诉、举报的渠道,通过分散化的“私人执法”实现救济并处罚违规者。

其三,“片警机制”。“巡警机制”和“火警机制”各有利弊,但都未能有效针对算法风险的内在特有属性,即“算法黑箱”。对此,第一、《算法推荐规定》将“算法备案”作为打开黑箱的首要之举。算法备案旨在通过立此存照、存档备查,获取算法服务中具有潜在危害的算法系统资讯,以固定问责点,从而平衡多重诉求。算法备案这一监管措施为“片警机制”。第二、算法备案制度的关键在于备案范围。《算法推荐规定》将备案主体限定在算法推荐服务提供者,并一一列举出登记事项。对备案内容,《算法推荐规定》采取了审慎态度,涵盖了算法应用是否与目的相称及其可能引致的公共利益、公民权利风险的评估信息,但将涉及商业秘密、专利权的内容排除在外。第三、“片警机制”不限于算法备案,还包括基于信息传递的“约谈制度”和“声誉机制”。

二、中国算法规制的实质

(一)算法安全

从比较法的视野来看,我国独树一帜强调算法的安全价值。算法安全包括以下三重含义:第一,算法自身安全。即避免算法设计缺陷导致算法不能稳定、准确地实现其目标的风险,包括但不限于可靠性、准确性、完备性的性能缺陷或结构性缺陷,所依赖的数据来源缺失或偏差。第二,算法安全可控。即在人机互动层面上防范算法脱离人的控制,保障人拥有充分自主决定权。第三,算法应用安全。即防控和管理因算法使用引致的意识形态、经济发展、社会管理、国家主权等宏观层面的风险。

(二)算法公正

对于公平一词,可以分为个体公平和群组公平、过程公平和结果公平四组两对概念。其中,“个体公平”意即算法能够真实、准确地表征个体,不因个人内在或后天的特征而对个人产生任何偏见或偏袒;“群组公平”意即接受正分类或负分类的人的比例与整个人口统计是相同的;“过程公平”意即算法平等对待所有参与者,各方享有平等的机会、条件和权利;“结果公平”意即算法应当从参与者所拥有份额的相对关系出发,确保有价值事物得到平等分配。相比于美国、英国,我国的算法公平则强调“个体公平”,注重结果公平,并坚持包容性,强化对特定弱势群体保护实现群组公平

(三)算法向善

算法新规确定了算法向善原则,具体表现为:其一,算法为内容服务。算法服务提供者应坚持正确政治方向、舆论导向、价值取向,优化算法机制,提高正能量传播的精准性和有效性。其二,算法为未成年人服务。算法服务提供者应便利未成年人获取有益身心健康的信息内容。其三,算法为良好生活方式服务。算法服务提供者应定期审核、评估、验证算法机制机理、模型、数据和应用结果。为落实上述要求,立法亟待建立算法伦理审查制度。据此,算法服务提供者可设立一个算法伦理委员会,以对可能产生重大影响的算法在其部署之前率先启动伦理审查。

三、中国算法规制体系的检视与完善

(一)算法发展对算法安全的平衡

当下的算法规制过于强调算法安全,忽略了算法发展对社会经济裂变的革命性作用。可以在如下层面展开算法发展对算法安全的再平衡:第一,规制主体的协同治理。鉴于算法所负载的多元规制目的无法割裂,国家网信办与其他机构应加强合作,推动经济性规制机构负责攸关企业经营活动的监管,并在法律文件制定及实施中合理分工,协同共治。第二,规制工具的风险进路。“风险进路”旨在识别和评估被规制活动可能引发的风险,设置与之相适应的保护水平与规则。相比欧盟《人工智能法案》规定的“风险进路”,《算法推荐规定》中的“算法分类分级”含有风险进路的意味,但仅在算法备案义务上有所区隔,其他义务均无差异地一体适用,不免规制失焦。对此,应在针对不同算法场景进行算法分级分类。

(二)权利公平对算法公平的补充

权利公平有助于在如下方面弥补当前算法公平的缺失:第一,拓展算法规制的对象。算法规制的关键在于如何通过公民权利限制国家算法权力。相比于美国部分州以“行政机构的算法决策”为规制对象的实践,我国以“私营部门的算法推荐”作为规制重心,难以完全消除算法偏见、算法黑箱、结果失控的痼疾。立法者应直面这一重大风险,将算法规制法规统一适用于国家机关。第二,增设过程公平规则。算法的过程公平即个人能够平等且有意义地参与到算法活动全过程之中,体现在决策算法选择的公平性、算法输入数据的公平性以及在自动化行政的场景下,算法结果的有效性以通知与申辩的履行程序为前提,允许民众提出质疑,并有权在专业审计人员的协助下审查算法并要求其及时纠错。第三,提升群组公平保障。算法规制可借鉴有关规则规则,除具有特殊目的、充分必要性和当事人明确同意外,应一般性禁止算法处理“特定身份信息”等类似信息,以实现基于身份中立的平等权。

(三)私人自主对算法向善的调和

算法向善面临着三重挑战:道德法律化的挑战、法律父爱主义的挑战、算法超助推的挑战。对此,算法规制亟待引入“私人自主”的理念加以调和,即向算法注入个人尊严和“把人当成人”的理念,形成“人化的算法”:第一,算法“向善”的正当性来自促进人们相互信任、满足共同期望和实现社会团结的功能;第二,法律应从“何为向善”中适度抽离,在聚焦于由谁、按照何种程序作出决定的问题上,国家应退回到程序和组织的元层面,退回到决定权分配和再界定上,以促使分散的社会关系实现“受规整的自治”;第三在规则适用上,“算法向善”不能作为行政行为、司法裁判和算法服务提供者合规的直接依据,而应经由法律解释及漏洞补充发挥作用。

(四)中国算法规制体系的愿景

算法规制的目标与其说是遏止迈向算法社会的进程,毋宁是重建国家、社会、民众对算法的信任。由此,我国可以“算法安全和算法发展”为纲,以“人化的算法”为魂,以蕴含权利公平的“算法公平”为体,以“算法透明”为用,采用“基于风险”的规制路径,在国家网信办和其他监管机构的合理分工协作下,实现对私营部门和国家机关的一体监管与问责,为未来的智能社会建构稳固的法律基础。

四、结语

立基于《算法治理意见》、《算法推荐规定》和既有监管经验,中国形成了包括“国家网信办”、“算法服务”和“巡警机制、火警机制、片警机制”在内的外部规制结构,以及以“算法安全”“算法公平”“算法向善”为依归的内在规制价值。为完善我国算法规制体制,有必要引入“算法发展”平衡算法安全,引入“权利公平”补充算法公平,引入“私人自主”调和算法向善,进而推动规制主体分工协作、拓展规制对象范围、优化规制工具,以铸就彰显中国风格、体现中国智慧的算法规制体系。



(本文文字编辑周含笑。本文未经原文作者审核。本文为中国民商法律网“原创标识”作品。凡未在“中国民商法律网”微信公众号正式发布的文章,一律不得转载。)



文献链接:《算法规制体系的中国建构与理论反思》

[ 参考文献 ]

本文选编自许可:《算法规制体系的中国建构与理论反思》,载《法律科学(西北政法大学学报)》2022年第1期。
【作者简介】许可,对外经济贸易大学法学院副教授,中国民商法律网授权学者。

推荐阅读
王利明:论债权形式主义下的区分原则
在贯彻实施《民法典》时,不应按照物权行为理论来理解区分原则,必须在债权形式主义模式下准确理解和适用区分原则。
曹兴权、杨士民:论公司法定代表人与其他人员越权的差异
在判断表见代表/理时,相对人对公司法定代表人与其他人员越权的审查义务有差异,应提出具体化函数理论进一步明确。
李建伟:决议的法律行为属性论争与证成
决议的多数决意思形成机制体现私法自治,决议特殊规则不构成对决议的法律行为属性的否定和减损。
热门排行
学术公告
问答集锦
相关文章
本期评价
0个赞
0个踩
敬请关注中国法学会民法典编纂项目领导小组组织撰写的《中华人民共和国民法典•民法总则专家建议稿(征求意见稿)》

编辑:周含笑

向编辑提问:

分享

扫二维码
用手机看民商
用微信扫描
还可以分享至
好友和朋友圈

中国民法学研究会
教育部人文社会科学重点研究基地
中国人民大学民商事法律科学研究中心

本网站由王利明教授创办并提供全部运作资金 Copyright◎2000-2021 All Rights Reserved 京ICP备2022010855号  
E-mail: ccclarticles@126.com