提高算法治理法治化水平
来源:中国社会科学报 更新时间:2022-09-28

近年来,算法被广泛应用到交通、医疗、就业、警务、金融、社会工作等领域,成为我国建设数字经济社会的重要力量。然而,“数据杀熟”“算法歧视”等热点事件,引发了公众对算法滥用的焦虑和担忧。当前一些网络平台企图用“算法中立”或者“算法没有价值观”来规避算法滥用的法律责任。对此,应予以高度重视。

摒弃“算法中立”的错误观念

在数字时代,算法从技术层面设定了人的基本行为准则。“算法操控”等事件启示我们,算法不是中立的,而是具有价值偏向的。

某些外卖平台为了追求送餐效率,通过大数据分析不断缩短送餐时间,让送餐员冒着违反交通法规的危险争分夺秒。某些数字新媒体为了追求用户黏性,放任他人上传甚至“自动推送”低俗内容,让一些内容平台成为滋生不良信息、道德风险、网络诈骗的温床。2021年初,英国竞争与市场监督管理局总结了平台通过算法操控侵害他人权益的各种形式,包括个性定价、个性排名、操纵用户行踪、算法歧视等。凡此种种,无不表明算法开发者在设立和使用算法时存在明显的价值偏向,而且会通过有偏向性的“回报函数”以及算法自身学习能力,不断推行、强化其价值取向。非中立的算法,如若缺乏必要的约束,极易异化为操控压榨弱势群体的牟利工具。

算法滥用乱象的根源,是我们对非中立的算法缺乏必要的法治约束和价值引领。相关部门应认识到,任何企图用“算法中立”或者“算法没有价值观”来规避算法滥用责任的行为,都是不恰当的。要规制算法滥用乱象,必须坚决否定“算法中立”的错误观念,从硬法、软法等多个层面强化对算法内容的合理约束。

规制算法滥用乱象

近年来,为了遏制算法滥用乱象,国家网信办抓紧推进营造清朗网络空间的行动,在2021年最新的行动计划中已将“算法滥用治理”列为专项活动。2021年8月,中宣部等五部门联合印发《关于加强新时代文艺评论工作的指导意见》,要求治理算法推荐,不给错误内容提供传播渠道。2022年1月,国家网信办等四部门发布《互联网信息服务算法推荐管理规定》,对算法推荐服务中的信息服务规范与用户权益保护做出了较为全面的规定。然而,这些举措是被动应急式的,要系统规制算法滥用乱象,仍需从硬法层面提高算法治理的法治化水平。

一方面,要推动行之有效的算法治理规定入法,尽快建立全面系统的算法治理法律体系。当下,我国涉算法治理的诸多文件是以政府规范性文件抑或行业规范的形式出现的,涉及算法治理的法律法规极少且散见于法律以及行政法规或部门规章中。算法治理规定数量少、针对性差、内容间缺乏衔接、法治化与权威性不足等问题突出。因此,相关立法部门应当更加积极主动整合梳理现有的算法治理规定,并针对算法从开发到应用的全过程,在已有基础上尽快构建全面系统、权责明确的法律体系。其中,特别要对算法操控、算法合谋、算法歧视等常见的算法滥用行为做出合理精准的回应。

另一方面,要重视正当法律程序对算法生态开放发展的保障功能。可通过监管沙盒程序对算法进行入市前的测试,提前规整某些可能影响国家安全、国家利益或重大社会公共利益的算法。要建立以信任为基础的算法备案审查机制,并增设配套的算法解释、安全评估、监督检查与投诉举报处理机制,在保持算法生态发展活力的基础上实现对算法异化问题的及时响应与专业管控。例如,可引入公益诉讼机制,以解决算法入市后的公益救济问题。具言之,任何人均可向消费者协会或其他部门申请启动有关算法违背伦理或违法违规的公益诉讼,从而降低算法受侵害者的维权成本,解决弥散性权力下个人应对权力侵害时的无力感问题,进一步达到权力制衡和监督的效果。

重视算法的主流价值观引导

规制算法滥用乱象,不仅需要完备的算法法律法规体系,也需要诸如科技伦理、技术规范、行业惯例、社群公约、平台政策等软法机制发挥作用。然而,我国算法软法规制体系面临着算法价值观的缺失问题,进而导致不同软法机制在价值上的游离与抵牾。面对形式多样的算法滥用事件,在算法价值观亟须释明的当下,我国应确立算法治理的价值理念与制度支撑,既要凝练兼具中国特色与国际认可度的算法主流价值观,又要完善相应的价值观育成机制。

首先,要以社会主义核心价值观为基础,构筑一套主流的、正向的、相对确定且具有一定包容性的中国特色算法价值观体系,使之成为算法治理机制的内核。在这个过程中,要将社会主义核心价值观内化为可被全球接受的算法主流价值观。同时,在算法治理目标多层、主体多元、规范多样的情形下,核心价值观要尽可能地融入法律法规、科技伦理、技术规范、行业惯例、平台政策等硬法、软法规范,让不同治理主体通过不同层级规范协同落实核心价值观,让不同规范在核心价值观的统领下相互配合、相得益彰。例如,“和谐”这一价值理念可被进一步解释为“算法必须维护人的尊严”。对算法领域的“和谐”价值进行如是解释,更易被国际社会所接受。依此解释,任何有违人的尊严、有害于人的身心健康、不当操控或者歧视个人的行为,都应当被禁止。

其次,要以平台运营者与技术人员为对象,完善算法主流价值观育成体系。平台是多方参与算法治理的核心节点,承担着落实国家法律规范、植入算法价值、创设行业规则、反馈用户需求的功能。一方面,要加强平台的价值观塑造,将保障算法符合主流价值观作为相关部门考核网络平台的核心指标。平台不能把商业利益作为唯一的追求标准,尤其当平台发展到一定体量之后,其在做每一项业务决策之前应考虑相应的道德标准和价值关怀。另一方面,要加强算法开发技术人员的价值观教育。唯有加强算法设计者的主流价值观教育,在算法中体现更多人文关怀,才能减少系统僵化和被错误利用的可能。

(本文系国家哲学社会科学基金重大专项“社会主义核心价值观融入网络治理法治化研究”(19VHJ005)阶段性成果)

(作者单位:华南师范大学法学院)