材料一:
2021年3月通过的《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》提出了加快数字化发展:“迎接数字时代,激活数据要素潜能,推进网络强国建设,加快建设数字经济、数字社会、数字政府,以数字化转型整体驱动生产方式、生活方式和治理方式变革。”技术在改变生产、服务模式的同时也将被应用到监管科技领域,提升监管部门的科技能力和行业自监管水平。
数字监管正在成为我国数字政府建设的一个重要方面,成为数字经济、数字社会、数字文化等各方面健康发展的必要基础设施,成为我国政府监管数字化的主要技术手段。数字监管是治理方式的重要变革,政府监管数字化是大数据驱动与政府治理能力提升的必然结果;是平台驱动的数字政府的能力现代化的标志,也是数字化转型的必然选择;是治理环境作用下政府数字化转型与地方治理绩效的现代管理工具选择。
数字监管是现代政府监管的基本特征。现代政府监管是指在市场经济体制下,具有政府监管职能的政府行政机构基于公共利益目标,依据法律制度并运用多种监管方式,对微观市场主体所采取的各种制约与激励行为。面向治理现代化的发展目标,它既是一套政府监管的法律制度,更是一系列包含监管机构、监管方式、监管对象、监管绩效评价以及各自之间相互关系的整体。面向政府治理现代化的进程,需要建立一个以监管有据、运行高效、精准有效、公开透明、激励约束为特征的政府监管体系。在这样一套现代政府监管框架中,现代技术对于政府监管的影响和应用渗透到管理的方方面面,数字化监管也成为现代监管的必然特征。数字化监管是指在监管活动中利用计算机、通信、网络、人工智能等技术来进行政府监管活动,有效履行监管职能。为此,政府监管的数字化改革,实际上就是通过政府监管的信息化、网络化和智能化等数字化改革方式,实现政府监管数字化的过程,也是从传统监管模式逐步向数字化监管模式的变革过程。
随着信息时代和互联网时代的到来,社会阶层和等级不断被打破,信息和权力也不再完全垄断在政府手中,信息社会监管与被监管对象的界限逐渐模糊,传统的监管模式不再适应数字时代的经济、社会和政治需要,在时间、空间以及对风险的防范等各方面都不能履行政府应有的职能,也不利于营商环境的优化和经济社会发展的时代需要。引入数字化的政府监管,实际上就是监管主体、监管客体、监管方式都借助数字化,共同在数字平台上实现信息表达、信息归集、信息比对以及信息互动,通过信息化、大数据方式实时、动态地掌握和监控,最大限度实现全方位、全流程、全角度、多向度的监管。这一监管过程也提供了线上政府进行智慧决策的监管信息基础,以线上监管的实时性、线上服务的公平性、线上行政的协调性,带来无缝隙的整体性政府高效能。
(摘编自胡仙芝、李婷《现代政府监管的模式变迁与数字化改革路径》,有删改)
材料二:
数字监管离不开算法,算法权力一旦出现功能性失衡,我们将不得不面对一系列的算法伦理困境。
技术的应用始终离不开技术伦理的约束。作为技术的算法,当其权力被当作实现利润或达成特定目的的手段的时候,其迭代更新将面临“逃离”技术逻辑而失控的风险——当算法权力在资本的催化下,被扭曲成为企业不正当竞争的工具,这种行为就放大了算法本身蕴含的安全风险。
从算法的设计来看,若某算法被选为最佳或最有效,其设计和功能就反映设计者的价值偏好,算法设计者所持价值观不经意地凝结于代码中,并被算法权力拥有者有效制度化。那些由商业公司编写的算法,其背后也符合公司追逐私利、创造商业利润的逻辑和要求,在这种追逐利益的逻辑之下,大数据杀熟、个人隐私泄露等现象频出,大型科技公司的社会责任会因算法权力功能性的失衡而处于相对真空状态。
政府对算法权力的依赖有可能导致公共责任主体的模糊化。在数字社会,行政人员对算法权力的依赖日益加深,但算法只能按照指令代码行事,一旦出现破坏性后果,算法自主决策易导致行政人员摆脱责任追究,同时又无法追究相关责任主体的责任,因为算法只是代码,此时责任主体变得模糊不清,追究相关责任以维护公共利益面临困境。如英国女性乳腺癌筛查漏检丑闻,由于名为“公共卫生英格兰”的医疗机构的计算机算法出现故障,导致从2009年至2018年,大约45万名英格兰女性未能受邀接受乳腺癌筛查。受这一故障影响,估计有135名至270名女性因未能及早发现乳腺癌而死于该种疾病。关于此次“算法错误”究竟是怎么产生的,国家卫生医疗系统、公共卫生局以及负责维护软件的日立咨询公司三方互相“踢皮球”,造成问责困境。
(摘编自杨华锋《赋能与均衡:算法权力秩序的合法性风险及其治理》,有删改)