健康码自动化决策失误的补救机制规范化研究的文献综述

健康码自动化决策失误的补救机制规范化研究的文献综述

一．前言

随着新冠肺炎疫情的爆发，大数据人工智能技术在疫情防控中得到了充分运用。为了应对疫情，各地区纷纷出台了健康码等相关政策措施。健康码的推出本意旨在让复工复产更加精准、科学、有序 。虽然国家及地方政府高度重视大数据、人工智能等新技术在疫情防控工作中的运用，但是仍有一些漏洞和问题需要解决：例如健康码自动化决策失误导致出现“人传人”或被感染后不能被及时发现，而引发恐慌和舆论争议。在国家不断加强大数据人工智能应用管理时，如何采取合理有效的补救措施并且如何对这些补救措施规范化是目前亟需解决的问题。

二．何为健康码自动化决策

《个人信息保护法》第七十三条规定，自动化决策是指通过计算机程序自动分析、评估个人的行为习惯、兴趣爱好或者经济、健康、信用状况等，并进行决策的活动。而关于健康码自动化决策的定义，本人目前没有找到确切的定义，在此暂时表达本人的拙见，即健康码自动化决策是指基于个人健康信息进行算法自动化决策，在注意个人信息保护的同时，利用大数据分析预测确诊者、疑似者、密切接触者等重点人群的流动情况，对市民主动赋码，为联防联控提供大数据支持的一种行政手段。【1】

三．健康码自动化决策失误原因

健康码作为一个新事物的产生，在带来便捷的同时，无疑也是一把“双刃剑”，存在着自动化决策失误等问题。全国人大代表、广州医科大学附属市八医院感染病中心首席专家蔡卫平指出健康码目前存在多地曾经发生健康码数据库崩溃事件；各地对健康码的“变码”管理不一，甚至出现同一人员同一时间两地健康码颜色不同的情况；各地健康码由不同部门建设和管理，主管单位分属系统也不同，导致各地各部门间出现“数据壁垒”“信息孤岛”等问题。在健康码应用中，自动化决策机制成为大数据精准防控的核心但也暴露出 “人工千扰赋码机制”的个案，让本来规则清晰的决策机制变得“不可捉摸”，甚至出现通过赋码直接让用户“行动受限”等个人权益受到严重影响的情况。而出现这些问题的原因何在？关于这点，浙江大学学者提出；

第一，生成健康码的数据质量有瑕疵。健康码的生成依赖两部分数据，一部分为申请人自主填写，另一部分为行政机关所掌握的公共数据，这两部分数据都可能存在质量瑕疵。【2】个人填写部分，包括了申请人的行踪轨迹和健康状况，若申请人故意隐瞒行程和病情，则该部分信息为无效失真信息。技术公司开发健康码时，被授权接入公共数据，鉴于当前各主体间普遍存在着数据壁垒，数据共享的现状并不理想，后台数据的完整性也不能保障。此外，公共行政主体所掌握的数据，也包括人工采集的部分，该部分数据的准确性和一致性同样不能确保。基于部分瑕疵数据作出的自动化决策，其结果不能作为绝对标准，只能作为参考。

第二，生成健康码过程中存在标准和算法不透明的情况。技术后台基于哪些数据比对分析，对各类数据如何赋值，在数据冲突时如何处理，风险等级的评定标准具体如何以及动态调整有哪些依据，这些由行政机关设定的标准并未公开。技术公司受行政机关委托开发健康码，所使用的算法也并不透明，被算法支配的信息申报人无从知晓。从针对健康码出现不少申诉的情况来看，算法至少存在一定程度的偏差，技术人员与非技术人员对其都无从审核。

第三，使用健康码受到一定的地域限制。推广健康码初期，存在着一地一码的现象，即申请人每 到一地都需要申请当地的健康码，而且各地健康码反映的风险级别可能并不一致。原因在于，生成健康码时所需要比对的公共数据库存放于各地，各地行政机关确定的评判标准不一致，技术公司采用的算法也不一样。而健康码的功能之一便是在管控疫情的同时为人员流动提供便利，重复申请有违健康码的应用初衷。为解决该问题，在区域行政法意义上，多地达成了健康码的互认协议，国务院也制定了《全国一体化政务服务平台防疫健康信息码接口标准》，并建立了健康码的信息跨省互认机制，异地健康码可被验证并自动转化为当地健康码，实现了“一码通行”。（查云飞，2020）

四．目前的健康码自动化决策失误补救机制

健康码作为大数据时代的产物，在处理大数据时出现自动化决策失误是一件必然的事情，目前我国各方主要采取了以下措施进行补救，且仍在完善。但虑及其是否规范化的问题，仍有待商榷。

首先，从行政层面，应当建立由算法程序的调整适配和人工的精准审核两个部分组成的健康码报错机制；健康码是算法程序的“集合”，算法行政背景下对于健康码的追责，本质上就是对算法程序的追责，故当构建健康码追责机制；对于消除不同类型健康码适用冲突的风险，可以通过对不同类型的健康码划分层级，并且制定针对发生冲突的不同层级健康码的选择程序，从而推进算法行政工作的开展。第一，不同层级的健康码之间发生冲突时，工作人员一般应该以高层级健康码为准。第二，同一层级的健康码之间发生冲突时，不能仅依据健康码适用范围的大小进行评判，而是应该结合时间因素和空间因素的权重进行综合分析。【3】

中华人民共和国民政部指出首先要完善健康码管理路线建设，一是依法保障公民的基本知情权，二是预防和惩治两手都要抓，两手都要稳，三是要及时销毁隐私超过授权范围和期限的公民信息。其次要完善健康码技术路线建设。一是持续完善健康码技术设计，二是要在技术应用的决策过程需要始终保持人的参与，三是健康码的数据采集要合乎规范、妥善保管。【4】

CCIA数安委也提出：相关部门在健康码应用中使用数据应遵循合法、正当、必要的原则，具体的措施建议如下：

1、目的限制：为疫情防控、疾病防治应用健康码，不得任意改变健康码使用目的，不得超出必要范围收集和使用健康码数据；如为联防联控工作确有需要，应事先充分告知用户；联防联控过程中产生的重要数据与个人信息不得用于商业目的。

2、权限管控：对健康码相关信息系统采取访问权限管控措施，合理确定相关人员的操作权限，采取限制查询/下载/截屏、数字水印、日志审计、风险报警等技术措施，防止健康码数据泄露、滥用。

3、编码安全：不应将个人信息以明文形式、或简单转码（如使用 MD5 处理、固定密码加密）后直接编码在健康码中，可采用安全机制更为完善的动态码机制（如将个人信息植入在可访问的动态加密链接中）；同时，应采取技术手段确保二维码只能被授权数据采集员、采集终端识别并获取相关个人信息。

4、融合评估：将健康码相关个人信息与其他个人信息进行融合，应通过个人信息保护影响评估分析可能对个人权益带来的影响，融合后的信息用于其他目的的，如就医、入校等，应在充分告知后，由用户自主选择同意开启相应功能。

5、透明公正：应保证健康码生成机制的透明度及决策结果的公平公正，并对基本的生成机制进行说明，不得引入无关参数干扰决策结果；涉及人工干预结果的，需制定严格的管理、审计措施，保证所有干预过程可追溯，如对个人权益造成重大影响的，应当保障用户的请求解释说明权及拒绝权。

6、脱敏展示：在亮码端或扫码端应用界面展示健康码及其他个人信息的，宜对需展示的个人信息（如姓名、身份证号等）采取去标识化处理等措施，降低个人信息在展示环节的泄露风险；扫码端有信息播报功能的，仅播报健康码状态、核酸状态等满足核查要求的信息即可，避免播报身份证号码、手机号、家庭住址等无关信息。

7、限制公开：不得公开姓名、年龄、身份证号码、电话号码、家庭住址、车辆信息等个人信息，因疫情联防联控工作需要公开的，应经过处理使之无法识别特定个人且不能复原（指被工作人员以外人员复原）后再行公开。【5】五。健康码自动化决策补救机制规范化的措施

我认为，规范健康码自动化决策补救机制首先当从立法层面入手。在国外，欧盟于2020年率先出台《个人数据保护条例》，成为个人信息保护里程碑式法律。其中第二章是数据处理的一般原则。《条例》规定了六项原则。（a）“合法性、合理性和透明性”原则：“对涉及数据主体的个人数据，应当以合法的、公平的和透明的方式来进行处理。”（b）“目的限制” 原则：“个人数据的收集应当遵循具体的、清晰的和正当的目的，对个人数据的处理不应当和此类目的不相容。”（c）“数据最小化”原则：个人数据对于为了实现数据处理目的来说应当是适当的、相关的和必要的。（d）“准确性”原则：个人数据应当是准确的，如有必要，必须及时更新；必须采取所有步骤，保证为了实现某项目的而处理的不准确的个人数据被擦除或及时更正。（e）“限期储存”原则：“对于能够识别数据主体的个人数据，其保存方式应当不长于为了实现个人数据处理目的所必要的期限；超过此期限的数据处理只有在如下情况下才能被允许：为了实现公共利益、科学或历史研究目的或统计目的，为了保障数据主体的权利和自由，并采取了本条例第 89（1）条所规定的合理技术与组织措施。”（f）“诚实与保密”原则：“个人数据的处理应当通过合理的技术或组织手段，保障个人数据的合理安全，包括防御未授权或非法的处理，防御意外损失、销毁或损害。”同时，《条例》还规定“可问责性”原则，控制者除了遵守以上六点处理原则，“而且应当有责任对此提供证明”。【6】依据《欧盟一般数据保护条例》的规定：“如果某种仅依自动化而做出的决策会对数据主体产生法律效力或对其造成重大影响，则数据主体有权不受上述决策的限制。”这意味着，如果自动化决策根据的是对个人数据的分析、会对数据主体产生重大影响，而决策又完全基于自动化处理并无人工干预的话，自动化决策在原则上就要被禁止。【7】那么我认为在我国规范健康码自动化决策失误补救机制时也可以适当借鉴这些原则，实现立法规范。2021年全国人大颁布《个人信息保护法》，也可为此保驾护航。《个人信息保护法》全面规定了个人在信息处理中的权利，在《民法典》个人信息相关条文的基础上，细化了对查询权、复制权、更正权、删除权等权利的规定，帮助个体更好地对自己的信息权益进行自我管理以及风险预期和防范。而且其细化了个人信息主体在算法与自动化决策中的相关权利。【8】

在行政方面，《个人信息保护法》规范了国家机关的个人信息处理行为。《个人信息保护法》规定，国家机关处理个人信息的活动，适用本法，这意味着国家机关作为个人信息处理者也要遵守相关法律规定。国家机关遵循《个人信息保护法》开展个人信息处理活动，有助于在全社会起到示范效应，形成数字法治的良好氛围。【9】也有学者指出，一方面，公共利益的优先性证成解决公权力介入与否的初步正当性，即政府推广健康码是将公共卫生安全置于优先地位，意在保护个人最为基本的生命权，限制私权具有正当性；另一方面，公权力介入的正当性还须接受合比例性考察，其对个人信息权益的限制须符合比例原则，健康码引发的个人信息安全风险应被控制在合理范围内。首先要权利限制———公共卫生安全保护优先；二要权力克制———个人信息权益限制的合比例性，强化个人信息保护。【10】

六．总结

健康码是数字化抗疫的亮点之一。现阶段,健康码走向常态化逐渐成为大势所趋,直接影响国家和社会治理现代化的进程。健康码是智能传播的新利器,也是一把双刃剑。它缺乏体系性制度设计,缺乏基本监管制度和制衡机制,造成潜在风险和隐患不断累积。其中,最大隐患是市场力量借助其技术优势、数据优势和资本优势,对健康码造成事实上的"监管俘获"。应当正视健康码背后的资源、角色、权力、隐私等问题,警惕健康码常态化背后隐藏的商业力量借助公权力突破法律法规限制的风险。全球健康码行动,带来了数字时代智能传播格局的新变化和权力角色转换的新博弈。由健康码"突进"而引发的治理能力考验,是数字时代社会治理的第一场全局性大考,也是进入数字社会后治理经验的大规模预演,值得格外重视。【11】由此，对健康码自动化决策失误的补救机制规范化研究存在很大的必要性。

【1】健康码 查云飞《个人疫情风险的自动化评级与利用》2020

【2】孙丽岩《行政决策运用大数据的法治化》，《现代法学》2019

【3】陈禹衡 陈洪兵 《反思与完善：算法行政背景下健康码的适用风险探析》 2020

【4】中华人民共和国民政部《关于健康码的研究及完善对策》2020

【5】CCIA数安委《健康码数据安全和个人信息保护措施与建议》2022

【6】丁晓东 什么是数据权利保护？从欧洲《一般数据保护条例》看数据隐私保护 2018

【7】赵宏《健康码弹窗：算法是否过度“决策”了我们的生活？》2022

【8】，【9】王利明 丁晓东 论《个人信息保护法》 的亮点、特色与适用 2021

【10】宁园 《健康码运用中的个人信息保护规制》2020

【11】方兴东严峰《健康码”背后的数字社会治理挑战研究》2020

基于文献分析的健康信息素养研究