廉政研究中心
理论前沿

理论前沿
当前位置: 首页 >> 理论前沿 >> 正文
算法科层制的兴起及其形态
发布时间:2023-12-04     来源:《社会学研究》     作者:吴进进、何包钢

算法科层制的兴起及其形态

来源 | 《社会学研究》2023年第6期

作者 | 吴进进、何包钢

责任编辑 | 向静林

在数字时代,随着大数据和人工智能技术在公共决策和公共服务中的广泛应用,算法科层制这一政府管理体制变革正在中国悄然发生。本文在已有研究基础上构建了一个算法科层制的理论分析框架,基于算法功能和算法应用体制两个关键因素,发展了四种算法科层制形态:部门自动化算法科层、部门预测型算法科层、跨部门自动化算法科层和跨部门预测型算法科层。本文通过四个人工智能算法应用案例,实证探究人工智能算法对科层组织权力关系与激励方式、知识信息处理、组织形态以及服务供给模式的影响及其路径,揭示了四种算法科层制形态的差异性及形成机制。

一、引言

中国自秦代就率先建立了一个崭新的科层体制以及文官选拔制度,确立了“德能勤绩”的官员选拔标准,这是人类政治组织发展史上的一场革命。科层组织运作有赖于有纪律、有技术的专业人才的投入,需要他们具有自主性,服务于公共事务。在当今数字化社会的背景下,人工智能等科技力量已经成为科层组织变革的又一重要动力。强调专业分工、规则导向、层级节制的韦伯式科层制难以应对日益复杂多变环境的挑战,而互联网与现代信息技术赋能的数字政府强化了科层组织的适应能力(Margetts,2012;Fountain,2004),街头官僚转变为人机互动的屏幕官僚,并进而演变为由算法和信息系统主导的系统官僚(Bovens & Zouridis,2002;Busch & Henriksen,2018)。基于算法的技术赋能,组织对算法的信任和依赖程度不断加深,算法也内嵌到科层制之中,甚至在某些场景下拥有自主性,有意无意地塑造着传统科层制(Meijer et al.,2021)。随着人工智能在公共部门中的应用日益广泛,算法对公共决策与政府科层体制的影响也越来越深远,算法科层制(Algorithmic Bureaucracy)这一科层制的新变革正悄然发生。沃格等(Vogl et al.,2020)率先提出了算法科层制概念,梅杰等(Meijer et al.,2021)也基于对德国、荷兰预测性警务的案例比较,提出了科层组织算法化这一议题。

算法科层制必然引发一场新的公共管理革命,这场革命对韦伯的科层制理论构成了重大的挑战和修正。越多越多的学者关注人工智能算法对科层组织结构与过程的影响,部分学者基于西方国家政府算法应用实践做出了开创性研究。然而,现有研究并没有深入探讨算法与科层组织的互动性,也没有分析算法对科层体制的塑造受到哪些关键因素的影响。基于不同国家背景,对于算法应用对科层体制的作用与反作用、算法科层制的形态与模式的研究也尚不充分。特别是对拥有二千多年科层制传统而又积极拥抱算法技术的中国情境的研究更为欠缺(张会平,2021;段妍婷等,2021)。

中国政府部门对现代信息技术的应用源于20世纪90年代初的政府信息化战略,至今经历了政府信息化、电子政务、数字政府三个发展阶段。在全球范围内的电子政府变革运动中,中国实现了从落后者到复制者再到全球领先者的角色蜕变,人工智能技术在中国数字政府建设中的应用也不断拓展。本文讨论的是刚刚发生、还在深刻变化的中国算法科层制变革。我们发展了算法科层制的基本分析框架,并基于地方政府不同领域的四个典型算法案例,探究算法对中国科层组织的影响,分析算法应用的功能场景与应用体制如何塑造了算法科层制形态的差异性。

由于算法对科层组织变革的影响是一个新兴现象,探索式案例分析是常用方法之一。算法驱动的组织变革具有明显的情境化特征,因此需要深入具体情境中进行分析(Yin,2011)。本文的案例选择遵循理论框架构建的要求,聚焦于自动化算法和预测分析算法这两个功能(Wirtz et al.,2019)。本文的四个案例涵盖了算法在公共部门应用的多个领域,具有广泛的代表性。我们自2020年5月至2022年6月持续关注这四个案例,开展田野调查,采用半结构化访谈形式,尽可能确保访谈资料客观真实有效,并对访谈记录严格保密。访谈累计超过20人次,访谈总时长约50小时,整理访谈记录8万余字。

本研究第一次在中国的背景下提出了算法科层制的理论框架与实践形态,探讨了算法功能和算法应用的组织体制对公共部门算法应用模式的影响,突破了西方学界提出的官僚组织算法化的概念框架,并对经典的“街头官僚—屏幕官僚—系统官僚”三类型的划分做了进一步拓展(Busch & Henriksen,2018)。本研究扩展了既有研究对于数字化和算法影响官僚组织的过程、方式的讨论,从权力控制与激励方式、知识信息、组织结构、服务供给等维度全面分析了算法功能和应用体制重塑科层制的作用机制。本文是目前较早实证分析算法对科层组织内部结构与运作过程影响的研究。只有充分探讨算法介入科层组织后对组织结构及其要素的影响与塑造,才能真正地理解人工智能如何提高科层组织绩效与决策效率。

本文结构安排如下:第二部分在文献回顾的基础上发展出算法科层制的理论模型,提出本文的分析框架;第三部分集中讨论四个案例,具体分析算法功能与应用体制如何重塑科层组织形态;第四部分总结本文的要点,并简述中国算法科层制变革的潜在风险及其改革方向。

二、算法科层制及其形成:一个理论框架

作为人工智能的大脑与核心运作机制,算法是通过编程实现自主行动的计算工具。算法凭借快速学习,对外界的各种不同要求、变化的环境和过去事件做出智慧化回应。随着政府活动数字化水平的提升,算法也从经济与商业领域拓展到政府活动中。当前,只有少数研究关注算法技术对科层组织结构、要素以及运作过程的影响。梅杰等(Meijer et al.,2021)提出了算法影响科层组织结构的三种机制,即信息、机构与制度。沃格等(Vogl et al.,2020)则提出了一个初步的算法科层制分析框架,认为算法推动了组织知识和信息的共享互通、提高了公共服务供给模式的精准化、推动了科层组织形态的合作化。关于技术与组织变革关系的一个普遍观点是:人类在不同的制度环境中与技术互动。制度建构视角认为,组织变革是人类的技术选择与组织内外制度、环境之间不断相互作用的结果,应当从实践的视角去考察技术。技术是一种实践中的技术(technological-in-practice),技术本身并不能决定组织变革(Orlikowski,2000)。以控制为导向的技术强化了传统的组织管理控制与等级制度,但是一些信息技术也可能推动权力分散化,促进组织扁平化(Dewett & Jones,2001;Wamba et al.,2015)。算法作为社会技术系统的一部分,总是嵌入于特定的社会环境中,算法必须由某些参与者部署,应用于具体领域,并实现特定目的(Wenzelburger et al.,2022)。芳汀(Fountain,2004)的技术执行理论更进一步指出,当技术应用于政府部门后,政府不可避免地在机构和流程上发生变革,但是由于技术内嵌于组织结构和制度环境中,技术与组织一系列结构、认知、文化和政治因素相互作用。组织和技术在实践中是一种不断相互建构的过程(邱泽奇,2005)。在算法和组织的诸多因素中,本文选择了两个关键因素:一是算法功能与应用场景;二是算法应用的行政体制,即部门化与跨部门的应用体制。同时,结合沃格等人(Vogl et al.,2020)以及既有研究的观点,本文分析算法如何推动科层制在权力关系、激励方式、知识信息传递、组织架构、服务供给模式等维度的转型。本文从算法两个基本功能、两种应用体制的维度,提出了四种有代表性的算法科层制形态,以此作为案例分析的理论框架(见图1和表1)。

(一)算法功能与科层制

算法本质上是一种解决问题的工具和程序,我们需要什么样的算法取决于所要解决的目标问题与任务性质,算法的类型应根据任务目标来划分。布洛克等(Bullock et al.,2020)根据行政任务自由裁量权的高低划分算法的功能与应用场景,认为当行政任务简单且官僚裁量权较小时,算法的自动化应用可以在很大程度上取代人类决策。自动化主要是由可明确说明和解释的规则指令和基于专家知识的编程程序驱动,在特定领域可实现对人类工作的取代,其过程和结果都是被人类设计的规则计算好的(Hurley & Wallace,1986)。因此,复杂度较低的常规性、重复性任务更可能被算法的自动化功能取代。相反,随着行政任务复杂度和自由裁量权的提高,人类决策占据主导地位,算法的自动化应用无法胜任。此时,比较适用这种场景的人工智能算法是以预测分析为主要形式的决策支持工具(Bullock,2019)。当前,算法的预测分析大量用于决策辅助领域,帮助决策者从大数据中预测问题产生及其触发因素,进而帮助决策者提出预警或采用针对性的政策措施,如犯罪预警、交通安全预警、环境质量预测,等等(Wirtz et al.,2019)。

基于行政任务自由裁量权的高低,本文认为自动化和预测分析是公共部门两种最主要的算法功能,代表了两类典型的算法规则,塑造了组织内部的控制与激励机制,改变了知识信息流动、组织形态以及服务供给模式,进而塑造了不同形态的算法科层制。

首先,两种不同功能的算法强化或弱化了既有的权力与控制关系。就本质而言,组织是权力控制体系和控制导向下的行动系统(克罗齐耶、费埃德伯格,2007),权力关系是控制组织信息流通、塑造激励方式、改变组织架构形态以及设计服务模式的主导力量。一方面,自动化基于规则导向,使决策过程处于严格控制之下,可能进一步约束组织人员的自由裁量权、执行弹性与便利度。在更加强调控制和整齐划一的自动化算法应用场景下,科层制与公众面对面式的互动逐渐减少,工作人员逐渐转向数字官僚(Busch & Henriksen,2018),组织激励机制也日渐转向效率和结果导向。执行者过度重视自动化处理的速度和数量,可能弱化回应公众的道德承诺与服务组织的组织使命感(Hansen et al.,2018)。另一方面,预测算法则更多地起辅助作用,人类仍然主导着决策过程。预测算法结构复杂,解释性弱,信息来源和处理方式也更为灵活多样,难以要求上下级组织算法运作的统一性和标准化。预测型算法使组织更为尊重算法部门及其执行者行动的情境性、自主性和适应性,并且鼓励部门间资源共享、公民参与和合作生产(Androutsopoulou et al.,2019),为组织及其工作人员提供更明显的正向激励。

其次,不同的算法功能对组织知识信息的处理方式也不同。一方面,遵循科层组织传统规则的自动化算法对跨部门数据共享以及数据自下而上反馈的要求相对较低。一些程序化的决策任务规则较为简单,对数据来源的多样性和广泛性的需求并不高。另一方面,预测分析算法可能通过自下而上的数据反馈改造着组织的知识与信息处理方式,预测分析的数据处理方式要求科层组织建立共享型和反馈型信息传递方式。预测分析模型的构建是一个动态的信息处理过程,需要从多源训练集数据中做出模式识别和预测判断,用以指导基层工作人员的执法行为,而基层人员在实践中不断获取新的信息与数据并反馈给决策者,进而补充预测分析模型,推动模型优化。

最后,不同的算法功能对科层组织公共服务供给模式的影响也存在显著差异。自动化强化了公共服务供给的程序和规则导向。这类算法并没有替代科层决策规则,而是使规则执行更加迅速、高效与透明。相反地,以预测分析为主要形式的算法应用使传统科层的程序化、标准化的服务供给模式转变为准确识别特定任务和服务需求的定制化、精准化服务供给模式。

(二)算法应用体制与科层制

算法作为社会技术系统的一部分,总是嵌入在特定的社会环境中。算法对科层制度的影响不能脱离使用它们的具体社会背景,算法的这种社会嵌入性可能比算法技术特征重要得多(Wenzelburger et al.,2022)。算法对科层制的影响受到科层组织体制与文化的反向塑造。科层组织可能存在两种不同的算法应用体制:一种是分散式的部门化应用,其目的是优化部门行政效率与服务供给;另一种是集中化的跨部门应用,功能大多定位于借助算法搭建新的科层架构,解决政府责任与权力结构碎片化产生的公共服务低效和协调不畅问题。形成上述区分的原因在于,在传统科层制仍然占据主导地位的组织环境下,部门分割、信息壁垒的科层制窠臼为部门化的算法应用体制创造了条件;但算法系统天然地要求信息共享和数据合作,必定试图扩展其系统边界,发展出集中化的跨部门应用。

部门和跨部门化的算法应用体制对科层制最突出的影响是重塑了组织内外的权力关系与激励方式。部门化算法应用激励部门为提高算法性能而建立数据共享与组织合作机制,可能推动组织资源下沉和结构扁平化。然而,跨部门的算法应用体制具有明显的集权性质,表现为自上而下的数据汇聚和集中、数字系统与智慧平台的对接和集成,以及部门间行动的协调联动或统一指挥。跨部门算法应用对数字治理权的控制和集中深刻影响了组织行为的激励效果。部门间关系从松散、临时性、非正式的配合与反复协调逐渐走向程序性、制度化的一致行动,实现牵头责任部门和辅助协办部门的有效协作,通过问题处置与组织行动流程再造提高组织的整体工作效率。但是,跨部门算法应用也引发了潜在的数字所属权冲突,增加了权责协调成本(Mikhaylov et al.,2018),导致“激励扭曲”或“弱激励”等挑战。

算法应用体制对科层制最明显的影响是科层制组织架构的重塑。部门为了设计和优化算法,建立内部反馈系统或与其他组织开展跨部门合作。其中,部门化的算法增强了组织间合作,可以称为“合作强化型”组织变革。部门化的算法体制也推动了部门间建立合作激励机制,尽管组织仍然是层级制垂直结构,但组织为了满足算法对数据合作和信息共享的要求而做出改变,更多地与其他职能部门建立正式或非正式的合作机制(Fusi,2021)(见图2)。

跨部门算法应用则由较高层级政府或多部门合作建立跨部门算法应用机构或平台,集成各个应用场景,为治理公共事务提供算法方案与服务。跨部门算法应用改变了传统的组织间关系,推动了“组织再造型”变革,建立统一集中的跨部门算法治理机构与平台,通过派单式的职能整合与组织联动改变科层组织间关系。这种模式没有改变各个组织原有职能,但是对于一些跨部门任务、公民热线诉求、应急事件和复杂社会治理事务,跨部门算法治理机构有协调联动权限,可利用实时的数据反馈、强大的数据处理和数据分析应用能力,向其他职能部门进行任务派单,提供解决方案,从而实现指挥联动的效果(参见图3)。

部门化和跨部门的算法应用模式对传统科层制的知识信息处理方式也产生了差异化的影响。在部门化算法应用中,部门自建算法系统,需要与其他职能部门实现数据分享合作,合作方式取决于部门之间的关系或协议,部门之间可能建立制度化的数据共享协议,但是在缺少顶层设计和规划的情况下,制度化的协议往往很难达成(Weitzman et al.,2006)。部门之间更有可能建立非常态化的一事一议的数据合作方式,就具体事务进行频繁的协调合作,其结果具有很大的不确定性和不可持续性。相反地,在跨部门的算法应用中,信息处理的主要方式是数据汇聚,即各部门数据归集于独立统一的算法应用机构或平台,进行实时采集汇总、分类处理和分析。

(三)算法科层制的四种形态

在人工智能算法的介入下,科层制的组织权力控制与激励、组织形态、信息处理和服务供给模式等要素都发生显著的变化。如表1所示,我们根据算法的“自动化—预测分析”两项基本功能与“部门化—跨部门”两类应用体制划分了四种算法科层制形态。这四种形态是对刚发生的算法科层制变革的归类整理和描述,属于韦伯所说的“理想类型”。算法科层制变革还在深刻演进中,未来肯定需要更深入更细化的描述。

第一种形态是“部门自动化算法科层制”。在权力关系和激励方式上,自动化可以减少行政负担,但是容易引发组织注意力从自动化任务转移到其他非核心任务上,影响组织绩效和稳定性。同时,自动化算法强化了流程规范化和控制性,减少了裁量空间。算法由单个部门自主开发并在部门内部自上而下地应用,部门在信息处理上呈现以数据对接与数据比对核验等为主要形式的共享特征,部门之间数据共享程度较低或中等。服务供给模式也呈现出服务供给自动化、规则遵守强化的特点。在这一模式下,科层组织形态仍然保持着传统科层制的层级关系和自上而下的控制模式,但是部门的组织边界从严格的条块分割变得更为开放灵活,组织间的协调和互动流程更加顺畅。我们将通过D市“秒批系统”的案例阐述这一算法科层制的具体形态。

第二种形态是“部门预测型算法科层制”。首先,在权力关系和激励方式上,算法不仅是一项新技术,更是新的权力形态(Bucher,2018),部门预测型算法推动了组织权力调整。算法作为重要的决策系统与信息控制工具,改变并强化了算法应用部门对决策的影响方式,提高了算法应用部门在权力格局中的角色和地位。在组织内部,部门预测型算法推动了上下级部门之间算法运行的协同性,有助于提高基层人员的自主性,同时鼓励资源分享,增加了组织灵活性。其次,在信息处理层面,数据共享更加明显。预测分析使得组织不得不寻求更加完整系统的数据共享机制。再次,在服务供给模式上,预测分析推动了更为精准和更具前瞻性的服务提供,满足特定人群和特定环境下的个性化需求。最后,在组织形态上,尽管算法没有彻底改变科层组织基本形态,但是由于数据共享的需求,组织结构变得更加注重跨部门合作和自下而上的信息沟通反馈。尽管我国较少有完全代表此类形态的案例,但J市的智慧信访系统一定程度上具有部门预测型算法科层制特征。

第三种形态是“跨部门自动化算法科层制”。跨部门自动化算法科层制在减轻行政负担的同时,强化了对组织的权力控制和数字化考核。科层组织加强控制的主要方式是建立了一个跨部门的算法机构或平台,同时组织的信息处理方式是以共享为前提的数据汇聚,而服务供给模式则受自动化功能的影响而呈现自动执行的特点。H省“互联网+监督”平台较好地呈现了跨部门自动化算法科层制的主要特征和运作机制。

第四种形态是“跨部门预测型算法科层制”。跨部门预测型算法科层制综合了跨部门的集权属性和预测算法的功能属性,主要以组织间协同联动来塑造权力关系,同时强调部门自主性并通过数字化考核强化组织间协同。这一形态集成了包括自动化算法在内的多种算法系统,但是以预测算法为主,服务供给模式呈现精准化和个性化的特征。T市组建的城市治理指挥中心及其系统平台以预测分析应用为主体,集成各种算法技术,是中国跨部门算法科层制的生动体现。

三、算法科层制的四种形态:四个案例的分析

(一)部门自动化算法科层:D市企业开办“秒批系统”

为了落实党中央、国务院关于进一步优化营商环境,压缩开办企业流程,D市市场监督管理局于2019年3月20日在全国率先推出个体工商户设立、注销登记无人工干预的自动化审批系统,即秒批系统。

首先,秒批系统给科层组织带来的第一项变革是强化了组织对人员自由裁量权的约束。秒批系统属于算法自动化审批服务,自动化审批基于机器学习比对算法,通过学习大量的样本数据,对审批材料内容和要素之间的逻辑关系进行训练,建立审批要素规则与数据比对模型。传统的审批方式需要公众跑各个职能部门获取审批证明材料,然后再提供给审批机构,产生了很大的时间和经济成本。秒批系统按照审批规则对公众上传的电子材料进行审核,与其他相关部门数据进行比对,确保材料的合规性。对于公众在秒批系统中上传的审批申请材料,系统基于已在规则库中保存的逻辑关系,利用建立的规则比对模型来对审批材料进行分析,以确定其是否符合相关标准或要求。秒批系统减少了人工审核的不确定性和自由裁量权,不仅减轻了大量重复性、程序性审批工作强度,同时强化了对审批人员行为的约束与控制,有助于审批程序的公开性、公正性。

其次,秒批系统改变了组织信息流通模式。秒批系统算法的核心是用户自主填报的信息在系统中进行自动审核,通过各个部门的数据联通,进行自动比对。秒批系统能够实现秒批的关键就是部门间知识分享和数据联通,打破信息孤岛。秒批系统中部门信息互通的基础是“一网四库”建设。“一网”是指全流程网上商事登记系统,而“四库”实质上就是自动化审核的规则库。公民一旦在系统上申请企业登记,其提供的信息和相关材料就经过四个规则库的审核和查验。系统调用市场监督管理局的企业名称库进行智能校验,拦截禁限用语,符合条件的及时通过;调用市委政法委的统一地址库自动导出标准地址,与市场监管局的地址负面清单库进行比对,排除虚假地址;调用公安部门的“实名核身数据库”进行身份核实。申请人通过手机获取验证码后,上传身份证图片,系统通过动态人脸识别技术与公安部门的公民身份数据库联网等方式进行多重验证,识别经办人和法定代表人身份,防止冒用他人身份注册;调用多个部门的失信人员名单库,将存在失信行为的受限制人员转为人工审批。

再次,秒批系统对审批部门的科层组织架构和流程也产生了显著影响,任务处理流程从串联走向并联,组织边界从分割转向整合,部门之间的边界也因而变得模糊,部门间关系更加开放灵活。秒批系统通过颠覆原有的审批流程,推动了市场监督管理局和其他审批部门的内部机构设置不断优化。第一,秒批系统整合了内部办理流程。本来多个科室负责审批的事项被简化为由一个核心部门集中审批,取消了不必要的审批事项与环节。第二,组织结构中不同审批环节和部门的角色和地位得到重塑。集中表现为前端审批处室精简弱化,而中后端的监管环节和处室职能不断强化。D市市场监督管理局一位负责人表示:“前端简化了之后,一定是加重后端的一个监管问题。为了管控秒批系统中可能存在的数据不准和数据篡改问题,市监局加强了信息监管机构和职能建设,对审批结果定时检查,将违规信息计入政务诚信档案”(访谈资料,DC20216503)。

最后,自动化对审批权限的控制以及对审批环节和部门角色的重塑也一定程度上改变了部门激励方式。审批过程呈现“求简求快”倾向,在减轻审批人员工作负担的同时,弱化了审批过程人为把关的责任感。由于秒批将原本十几个工作日内完成的审批工作压缩到几小时甚至几分钟,一些重要环节和关键信息被迅速审核,也就意味着一些安全漏洞没有像人工审核那样被审慎思考和判断。审批人员倾向于把企业资质和合规性审查完全交给自动化系统,只对自动化系统刷下来的申请人进行审核,但是实际工作中会把这类审批当作麻烦和额外的负担,工作积极性不高。尽管D市市场监督管理局通过设立和强化信用监管处、企业注册局、市场稽查局等内设和直属机构来加强后端监管环节和职能,但是这些机构由于资源和人员配置的欠缺而难以充分发挥后端监督职能。由于秒批放松了企业登记的前台大门,税务、银行、公安等部门的中后端监管压力更加沉重。秒批系统推动了中小微企业数量呈井喷式增长,辖区纳税户连续多年增长幅度接近40%,但是虚假注册、虚开发票等情况颇为严重。据该市税务局的统计,截至2021年,D市纳税主体达400.28万户,其中异常户达到143万户,占比达到35.60%。

D市的数字政府建设在全国范围内起步较早,由于早期缺乏顶层统一规划设计,和多数城市一样,数字政府的应用项目呈现分散化建设模式。秒批系统作为一个部门化的应用平台,市场监督管理局需要一个一个地与其他职能部门进行合作连接,因此并未形成全市统一的平台。尽管这个系统一直持续升级,不断打通企业登记的各项事务,如税务、银行、社保公积金系统,但是目前系统的数据与其他职能部门数据进行核对比验的结果仍然不能第一时间反馈到秒批系统上去,无法实现秒批系统的闭环管理。秒批系统的一位负责人坦言:“因为我们现在的平台是市场监管部门临时搭建的一个平台,应该是说充分发挥我们的主观能动性,我们先做了。但是你的数据推送给各个部门,如果不是在一个市一级的部门平台上面去建设的话,后面的审批的情况和结果没办法反馈到我们前端的平台,没有形成一个闭环管理的过程”(访谈资料,DC202172501)。

(二)部门预测型算法科层:J市信访预测系统

J市的智慧信访预测系统是一个典型的部门自主创建的预测型算法应用。该系统出现之前,J市信访部门就已经对当地信访形势进行预测,预测的主要依据是对前期信访数据的简单描述分析,并未有效利用信访数据进行决策。随着互联网的普及,传统信访模式开始逐渐转移到线上,网络信访成为信访的主要渠道,迫使信访部门更加重视对网络数据的分析,也为利用信访数据优化决策创造了条件。2018年信访局开发的“智慧信访”预测大数据分析平台正式上线运行。

首先,智慧信访改变了信访部门在科层制体系中的权力和地位。在传统的部门权力格局中,信访部门通常处于弱势和边缘地位。在J市市政府召开的相关会议中,信访部门的位置一般靠后,也往往较少被安排发言。智慧信访系统为信访部门提高影响力提供了十分有利的机会。由于上级政府对决策科学化、智慧化越来越重视,J市信访局凭借智慧信访系统实现了从传统的来信来访“转接—传递”部门到重要的数据分析、决策支持和矛盾化解部门的跨越,信访部门的地位和影响力实现显著提升。J市信访局的主要领导认为智慧信访系统率先在全国开启了智慧信访时代,把该系统作为部门的重要政绩工程。J市信访局通过人工智能和大数据技术对信访形势进行实时监测与预测,定期为市委市政府提供信访决策咨询报告,这是传统信访功能难以发挥的。凭借智慧信访,J市信访局得到了上级部门和领导的广泛关注和重视,在部门资源分配中也得到了更多的倾斜支持。智慧信访还使得信访部门内部组织权力关系和激励机制发生了明显的调整。J市信访局内设的信访矛盾分析研究中心等技术部门的地位不断上升,这个机构是智慧信访系统的实施者,也是各类信访风险指数、信访决策研判报告的主要分析者和撰写者,更容易受到媒体、部门领导以及上级决策者的关注,因此在人员晋升中相比常规的直接处理信访事务的业务科室占据优势地位。

其次,J市信访预测算法对组织层级之间的沟通和组织内外的数据合作与共享产生了积极影响。数据的完备性决定着信访预测算法的效果,J市区县级基层信访部门对模型预测指标的选择以及指标权重的确定给予了很大的支持。例如,特殊重点信访人员行为预测具有很大的难度,尽管智慧信访基于自然语言算法对信件中信访语句和用词表达的情绪进行分析,但是信件内容并不能完全体现信访人员的真实情绪和行为倾向。然而,基层信访部门在获取信访人群真实信息方面具有独特优势。他们定期向信访预测算法的设计者提供信访动向和重点信访人员信息。预测模型在运用过程中的预测效果也需要和基层反馈的实际信访行为进行比较验证,如果发现模型预测和实际信息不符合,就需要根据实际情况对模型的参数以及指标权重进行调整或修正。J市信访局信访矛盾分析研究中心的工作人员指出:“特别是对极端信访行为和特殊重点人群的跟踪,基层不断对预测模型结果进行验证。我们每个月都有月度报告和周报告,如果预测分析和基层实际情况不符,比如判断一个信访人员这次没有来,为什么?如果预测不会来,但是他来了,也会和基层进行沟通,对模型进行校正”(访谈资料,ZHXFW22522)。

再次,智慧信访显著提高了信访机构服务供给的效率和精准性。J市信访局通过机器学习算法、大数据分析技术对信访形势进行实时监测与预测,掌握信访形势发展动态,预测极端事件出现的风险。信访预测算法的建立改变了传统的信访监测和预警决策模式,把传统的决策规则从随机、无序和事后处理的模式转变为精准预测、及时监测、主动识别的前瞻性应对模式。智慧信访的预测算法模型主要有两类算法:第一类是基于月度信访量的时间序列预测算法,第二类是信访人行为模式的预测模型。这类预测分析的训练集数据包括海量的网上来信、线下纸质信访文本、网络舆情等数据。同时,也通过自然语言处理等文本挖掘技术对上访文本信息进行深度挖掘,对上访人员的观点表达进行情感分析,对上访人的行为进行轨迹分析,并对类似上访案例进行关联分析,获取信访人身份特征数据,在此基础上建立机器学习预测模型,预测上访人员的行为倾向。智慧信访系统的一位研发人员表示:“我们对信访人行为模型的预测数据包括文本分析、情感分析,以及行为轨迹分析。比如上访人十年来到过什么地方,去过哪些单位,什么时段来的比较多。结合这些信息,通过一个计算模型建立了信访行为的‘极端指数’,形成人物画像”(访谈资料,ZHXFW22519)。

然而,部门化的算法应用难以突破跨部门数据合作障碍,这类算法模式对科层体制的变革依赖部门对算法的支持以及算法应用部门在科层体制内的权威性。部门化算法的数据共享在很大程度上依赖顶层的制度安排、算法项目的政治合法性以及部门在科层体制中的权威性等因素。J市信访局的相对弱势地位使之在获取其他职能部门数据方面处于不利地位。J市的智慧信访算法模型的数据多数来自线上信访文本和线下信访材料等,同时也来自购买的其他数据,如网络舆论信息、社会调查数据、行业调查数据,等等。其他职能部门不太支持数据共享,J市信访局难以和公安、消防、医保等关键部门的信访业务开展数据共享,更遑论要求这些部门开通数据接口。

(三)跨部门自动化算法科层:H省“互联网+监督”平台

H省“互联网+监督”平台代表了一种典型的跨部门自动化算法科层形态。这一算法应用源于纪检部门加强农村民生、扶贫资金和村级财务虚报冒领、侵占挪用、吃拿卡要、优亲厚友等腐败问题治理的需要。H省从2017年11月正式上线省市县三级运作的“互联网+监督”平台,这个平台一开始并不是由省级政府自上而下发起的,而是由部分市县政府自发创新并得到省级政府关注,进而上升到全省层面。

首先,H省的“互联网+监督”平台根据“统一平台、统一标准、统一实施、三级运维”思路运作,建立了跨部门的组织系统,充分体现了跨部门算法的集权和控制导向。跨部门平台的建立主要源于省级政府的高位政治推动。为了打造省级统一平台,2017年4月,H省委、省政府成立“互联网+监督”工作协调领导小组及办公室,省委常委、常务副省长任组长,省委常委、省纪委书记任副组长,省纪委、省政府办公厅、省委网信办、省发改委、省经信委、省财政厅、省政府发展研究中心等单位的领导任成员。领导小组办公室设在省纪委,承担领导小组的日常工作。省纪委协同领导小组的其他部门负责平台的软件开发、数据采集、制度建设等工作。H省还出台了《关于加快推进“互联网+监督”工作实施方案》,在全省范围内将平台系统推进到市县部门,实现横向到边、纵向到底。

高位的政治安排和自上而下的组织体制保障了平台在建立过程中较顺利地打通部门和不同层级政府之间的数据壁垒,推动全省多部门的数据整合汇聚。这个系统运作的前提是建立人员和财政资金信息库,在建立系统过程中最大的阻力也是部门间的数据共享难题。相比专门的数据管理部门和统筹协调部门,纪委部门有难以比拟的权威性,具有较强的数据整合能力,对打破数据采集障碍和部门间数据壁垒发挥着决定性作用。为了解决公职人员抵制个人数据填报问题,纪委部门通过做工作要求数据采集部门签署保密协议等方式解决。在部门数据共享方面,纪委则通过先礼后兵的方式推动:一方面通过召开部门会议统一思想,说服各部门把数据共享给纪委;另一方面,对于不配合的部门则使用人事更换的手段强力执行,对于那些多次督促仍不愿开放数据的部门,纪委甚至提出“不换思想就换人”予以威慑。在纪委的推动下,H省区县数据导入市一级“互联网+监督”云计算中心,市级数据导入省级的“互联网+监督”平台。

其次,跨部门的算法自动化应用的最大优势在于对大量数据库与规则库的汇集和控制,这是实现大数据自动碰撞比对功能的核心机制,对发现和整治涉农资金腐败行为发挥了决定性作用。“互联网+监督”平台汇集了全省各地方多个部门的政务业务数据库,将分散在民政、财政、教育、公安、国土、残联、市场监督等十余个部门与民生相关的数据汇聚,在后台建立人员信息库、民生资金信息库这两类基础比对数据库。自动化比对的基本规则主要是两类数据库互斥规则。民生资金政策有着清晰而严格的申请人资格和限制条件,如果算法对数据库智能分析比对发现根据规则两项信息应相互排斥,则意味着违背规则,通过系统主动发现问题线索并进行预警,将发现的问题线索自动推送到纪委部门。“两个数据库碰撞对比,就能发现许多疑点。有的人既拿国家工资,又领取贫困人员才能享受的危房改造补助。就像开宝马车的人不能领城市低保,购车和城市低保是互斥关系,两个名单的交集应为空,非空集合就是涉嫌违规领取低保的疑似问题线索。发现这些疑点后,平台会自动报警,成为纪委追查的线索”(访谈资料HNP20210325)。

最后,“互联网+监督”深刻改变了H省纪检监督的组织流程和结构形态。平台改变了传统的纪律检查流程,建立了公众监督举报、平台指派受理、政府部门协同办理的监督流程,通过算法技术整合了纪检监察部门、政府业务主管部门和公众三股监督力量,形成了集流程自动化和公众监督于一体的监督体系,提高了纪检检查监督的效率。在监督流程的前端,平台通过公众举报途径拓宽了监督体制的输入端口;在监督体制的中端,自动化算法技术通过大数据碰撞分析比对主动发现问题,提高了监督体制的敏捷性、智慧性和主动性。在监督体系的后端,平台直接指派业务部门处理投诉和问题线索,提高了监督执行流程的效率。通过引入案件受理、办理、答复时限流程和纪委督办程序,提高了公众监督的约束性,强化了监督体制的闭环管理。

(四)跨部门预测型算法科层:T市城市治理指挥系统

跨部门事务需要部门间的数据共享与协作,但却面临着职责分割和碎片化困境,阻碍了部门在更大范围内应用算法。一个解决思路就是建立跨部门算法应用机构与平台。跨部门算法应用的基本目标就是由一个平台、一个系统负责各类问题的沟通协调,明确解决问题的职能部门或联办部门,利用算法进行分析决策,然后由平台给部门派单,督促并考核部门解决问题。T市的城市治理指挥系统就是跨部门算法治理平台的典型形态,主要承担以预测分析为基础的决策任务。为了实现市域治理的智慧化,T市在数字政府管理组织体系上进行了重大的变革,成立了一个独立的跨部门综合性治理机构,即“城市治理指挥中心”,集中统管T市城市治理各场景的算法应用。城市治理指挥中心有“数据共享、智能搜索、统一监管、监测预警、分析研判、联动指挥、行政问效”七项基本功能,这些功能的基础就是算法分析与决策辅助,在实际运用中主要依托监测预警系统。该系统基于各类大数据搭建的人工智能预警分析模型,主动预测和察觉各类社会治理风险。系统建立了若干专题分析算法,算法库涵盖了丰富的机器学习与深度学习模型,支持各种时空数据计算与分析、数据治理和挖掘,适配了不同的应用场景,为决策提供算法支撑。这些技术和算法的运用通过深挖数据为T市城市治理实现了知识赋能,建立了10多个城市算法应用场景。

首先,T市城市治理指挥中心的案例为我们揭示了人工智能算法对科层权力关系的重构效应,有效推动了科层体制的协作联动。T市指挥中心的算法系统一定程度上实现了不同部门的职能整合、业务范围调整甚至权力关系变革,形成了一种横纵交错的指挥协调架构。通过顶层设计,建立了一个独立于各个部门的算法治理机构,机构负责人一般由市政府领导成员担任。机构主要通过与其他职能部门的协调联动机制辅助职能部门应用算法提高治理能力,提高了其他部门工作的积极性。在T市社会治理的行政体系中,指挥中心承担着横向沟通协调到边、统筹全局的角色。指挥中心与T市大数据管理局实行一体化运行,组织架构上实现多部门融合,身兼市大数据管理局、市网格化服务管理中心和市12345政府公共服务中心三部门职能,“一个中心管全域、一个号码管受理(12345热线)、一个APP管服务、一个平台管监管”。这样的组织架构一方面保证了指挥中心可以汇聚其他职能部门数据,从而掌握部门业务数据和社区街道实时信息,另一方面可以保证指挥中心指挥社区部门与基层网格员处理现场事务。T市政府在指挥中心建立了部门进驻制,便于指挥中心对跨部门事务统筹协调和联动,进行任务派单。进驻部门对指挥中心交办的事件或预警信息建立了签收、办理、跟踪、反馈的闭环管理机制,推动问题的解决。借助指挥中心的协调联动体系,其他缺乏独立的算法治理能力的职能部门也实现了治理的自我赋能效应。为了强化各职能部门的配合与协作,指挥中心也通过数字化监督考核方式,对各部门的数据接入、数据更新、数据质量等情况进行可视化呈现,促使各部门按照要求主动归集和更新数据。

在横向部门协调统筹到边的基础上,指挥中心同时建立了纵向到底的指挥体系。指挥中心具有四级联动机制,即1个市级指挥中心、10个县(市)区指挥中心、96个乡镇街道指挥中心和7万余名专兼职网格员。市级指挥中心负责统揽全局,县级指挥中心开展实战指挥,镇级指挥中心进行一线处置,基层乡镇街道指挥中心依托网格管理配置。凭借网格员“铁脚板”的人力优势,可以直接发现和处理基层社会治理事务。市级指挥平台把事件交办给县(市)区指挥平台,后者把处理结果反馈给市级指挥平台。县市区指挥平台同样对乡镇街道平台进行事件交办和结果反馈。

其次,在知识和数据的共享方面,该机构最大的特征是对职能部门数据的汇集与管理,这也是机构开展算法治理的前提。机构汇聚了辖区内各部门数据和其他感知数据,建立各类标准化的专题数据库,形成数据池。以精神病患的预警和处置为例:指挥中心针对精神病患者底数难摸清、动态管理难、出事预警难的问题,汇聚了卫健委、残联、民政、医保等17个部门22项3000万条数据,建立医学诊断、患者行为、患者社会属性、监护人属性、走访服务和家庭属性等6大类22个子类57个标签,实现对患者的人物画像和积分计算,形成一人一档的全量档案。系统已向预警中心平台发送1382条预警信息,及时推送给基层社区民警和网格员(访谈资料:TCC2021619)。

指挥中心和大数据管理局一体办公的建制保证了指挥中心可以与其他行政部门较为便利地共享数据。T市在大数据管理局(指挥中心)建立了政务数据共享交换平台,根据T市2020年颁布的政府信息资源共享实施细则,市大数据管理局负责政务数据共享交换平台政务信息资源更新的指导、协调和监督。为了保证各部门遵守数据归集要求,T市政府赋予了指挥中心数据共享与汇聚的审批权和控制权,并且与各部门的核心利益挂钩。实施细则规定,市大数据局、财政局负责对市级智慧城市项目和财政投入的信息化项目进行审核,对不符合政府信息资源共享要求的,不予审批、不予安排运维经费。作为项目验收要求,各部门的信息化项目建成后将信息资源接入市政府数据共享交换平台。为了保证信息化建设项目能得到审批和经费支持,部门就必须遵守信息共享的要求,把信息资源接入指挥中心的信息共享交换平台。该项规定对部门数据共享是一个有力的约束。

最后,T市城市治理指挥中心的算法系统显著提高了城市治理的精准性,其秘诀就是建立了若干主题的算法应用场景,根据不同数据库类型建立专题算法系统。指挥中心对城市社会治理各方面大数据进行归集、融合和专题整合,建立了包括公共安全、经济运行、国土资源、公共服务等数据专题库。在数据专题库的基础上,运用人工智能技术建立了十几个城市应用场景,如危险化学品全流程监管、群租房治理,等等。这些应用场景有助于提高社会治理的精准性。以危化品监管的精准化为例,T市有2000余家危化品相关企业,危化品监管涉及问题处置的环节和参与监管的部门多,部门职责不清晰。指挥中心建立了危化品全流程监督算法,通过实时归集政府相关部门和企业生产经营等数据,进行算法预测,提前发现问题并发出预警。具体而言,指挥中心掌握着危化品企业名单,同时监控危化品运输车辆不断产生的轨迹数据,通过城市操作系统中的时空AI引擎构建模型计算出可能的驻留点,将其与危化品企业名单进行高效匹配,以发现问题。

四、总结与讨论

以大数据、人工智能为代表的第四次技术革命,开启了人类全新的智能时代,正在对传统科层制产生潜移默化的影响,引发一场政府管理模式的大变革。算法科层制革命正悄然发生。中国作为最早产生科层体制的国家,也最先见证了人工智能算法革命对传统科层体制的变革效应,产生了算法科层制的丰富实践案例和形态。本文基于中国地方政府人工智能算法应用的实践形态,发展了一个算法科层制的中观理论分析框架。基于算法功能和算法应用体制这两个关键因素,我们探究了算法对科层制的权力控制与激励机制、组织结构、知识信息处理、服务供给模式的影响及其路径,进而区分了四种算法科层制形态:部门自动化算法科层、部门预测型算法科层、跨部门自动化算法科层和跨部门预测型算法科层。通过国内四个人工智能算法应用案例,本文揭示了算法应用对科层组织形态产生的差异化影响。在这场新的算法科层制革命中,算法科层有助于缓解传统科层制效率低、部门分割、信息孤岛等痼疾,增强科层体制的能力与开放性,优化公共物品供给模式,提高公共服务绩效;但也可能带来决策失误、合法性危机和数据安全挑战等一系列新问题。

第一,算法科层可能对政府决策的合法性产生冲击。由于算法技术的黑箱特质,一般民众不知道算法是如何运作的,算法辅助下的决策支持系统也可能受到广泛质疑。算法科层的要害在于自动化编程和自动化计算,其背后是人的设计、干预与调整,这一过程也必然继承了科层机构自身选择的偏见和控制,因此算法科层可能会扩大不同群体间政治与社会权利的不平等,算法加剧不平等问题在广泛使用算法决策的英美等发达国家已经屡见不鲜(尤班克斯,2021)。

第二,算法科层中的自动化系统做出某个判断和决定,一方面可以克服传统审批中的腐败问题,但另一方面也引发了一些新问题,即这个系统的决策结果向谁负责?算法一旦确立,就有自身的自主逻辑,这种决策“专断”可能与设计者的意图相反,带来不可预知的结果,这就需要为公民和各类利益相关群体提供一个算法机制审议的参与机会或正式机构。

第三,数据安全问题,如数据泄露、数据窃取、数据不当使用在公共部门算法应用过程中不断涌现且日益严峻。除了常规的统计数据外,海量的用户个人数据也被算法所使用,因而存在数据泄露、被滥用的风险,甚至可能因政务数据被敌对势力攻击或者木马介入而引发公共服务平台瘫痪、公共服务中断等重大数据安全事故。特别是在政府数据公开和部门间数据共享和汇聚过程中,数据安全风险可能被进一步放大。数据安全风险的挑战一方面要求各级政府更加注重在数据采集、存储、数据库建设、数据分析以及数据共享过程中强化安全管理和隐私保护的技术保障,另一方面也要求设计一套政府数据隐私保护的监督、问责和公民救济机制。本文建议在各级政府的大数据管理局设立算法治理伦理委员会,委员会成员应涵盖各领域专家、科技企业和公众代表,负责对部门算法系统进行数据安全与伦理审查,接受公民投诉,并定期发布算法治理数据安全与伦理风险报告,督促政府各部门巩固数据安全防线和守住公民隐私保护红线。

第四,在当前数字政府建设和政府治理的人工智能应用中,强调服务公众而忽略公民参与的倾向较为明显。跨部门算法的控制和集权导向也可能进一步压缩了公民参与社会治理的空间。在算法强大的预测分析和自动化处理能力的支持下,科层体制组织持续扩张,在提供公共服务和管理社会事务方面对公众与社会力量的依赖度不断降低,反而可能凭借算法替代公众做出“最好”的决策,排斥必要的公民参与和公共协商的空间,产生算法科层挤压社会自治的问题。公民不应是算法科层服务的被动接收者,而应当是算法治理的主动参与者,为算法项目的设计与服务供给表达意见并提供方案。算法科层制革命中公民角色的匮乏是一个必须解决的重大问题,有待未来进一步深入研究。


版权所有 © 广州大学廉政研究中心

地址:广州市番禺区大学城外环西路230号

邮编:510006     电话:020-39366152