党的二十大报告明确指出，“未来五年，国家将深入推进治理体系和治理能力现代化，到二〇三五年，基本实现国家治理体系和治理能力现代化。”为此，各级政府不断深化数字技术的应用，提高政府数字治理体系和治理能力。例如，“电子警察”的应用有效改善交通状况，降低道路交通事故率；人脸识别系统在金融、交通和安防上的应用有效提升公共服务效率；健康码、随申办在疫情中协助控制病毒传播，便利人们的日常生活。但是，政府数字治理能力发展的进程中也存在算法质量、工具依赖、隐私保护、监管失效和合法权益受损等风险，引发关于算法黑箱、隐私泄露、监视过度和人身安全等的担忧。

如何将新兴技术在公共领域的应用有效、有序地纳入政府治理，使其更好地服务于智慧政府和智慧城市管理，做到为民、便民、惠民，是当前亟需解答的课题。归纳起来，提升政府数字治理体系和能力的过程中存在着功能性风险、社会性风险、伦理性风险、监管性风险和法律性风险。如果这些风险不及时识别和规制，会损害社会公共利益，影响社会秩序稳定，有损政府威信，不利于政府自身职能强化。为此，本团队通过专家访谈和市民调研的方法，通过统计的手段，构建政府数字治理的风险体系及指标权重，并提出相关的对策建议。

一、公众对政府数字治理风险的认知情况

城市智慧化进程中数字技术的运用应以人为本，保障尽可能多的人从中获益。但是，政府职能数字化转型也存在着风险，包括功能性风险、社会性风险、伦理性风险、监管性风险和法律性风险。这些数字治理风险是由多种因素联合影响的结果，同时各种因素的影响力度并不相同。为了能够全方位地识别政府数字治理中存在的风险，需要根据这五个风险维度，构建政府数据治理风险识别指标体系。为此，我们将五个维度的风险因素进行量化分析，并就公众对数字治理风险认知做了调查。

首先，政府服务数字化在带来效率和便利的同时，也面临着系统功能运营稳定性的问题。技术不成熟、流程不合理，程序算法错误和系统安全性等问题都可能会导致系统功能失灵、崩溃，带来日常生活的不便利。这些问题在政府数字治理中构成功能性风险，例如技术可依赖性、系统安全性、数据质量和算法质量风险。同时，在数字治理的进程中,政府服务的数字化转型可能忽略老年群体的权益，部分老年群体面临“不敢用”、“不能用”和“不会用”的数字化智能技术问题,产生心理负担。这些问题在政府数字治理中被称为社会性风险，其主要包括工具依赖风险、数字负担风险和数字鸿沟风险。

结果表明，功能性风险和社会性风险是公众认知最多也是最关系的两大数字治理风险维度。新兴技术应用于公共空间在提供便利的同时，也可能将公众困在系统中。相应地，公众比较关注的是政府数字治理过程中出现的不便利，例如系统功能失灵、崩溃、数字负担、数字鸿沟等问题。类似于12306等公共服务平台的瘫痪，或者弱势群体被忽视等都容易引起民众的不满。这些问题的出现会大幅降低政府数字技术的公众认可度。

具体而言，算法质量是功能性风险中最受关注的风险。算法具有技术复杂性和结果难以解释性，导致公众对于算法结果的不认同。例如在疫情期间，各地健康码系统数据质量参差不齐，算法各不相同，导致公众的健康状况误判且无法作出解释，引发民众的误会和不满。工具依赖则是在社会性风险中的重要程度最大，并且在总指标权重中重要程度也最大。工具依赖是指在生活工作中过分依赖数字技术而导致的服务能动性和变通性下降。例如，某些审批部门过度依赖信息技术，仅开设线上审批通道，导致民众缺乏有效沟通途径。

其次，提升数字治理体系过程中也存在伦理性风险，即因过度依赖技术而忽视以人为本的原则，从而导致技术对个体的行动造成不良影响，其具体表现在技术异化、算法偏见、隐私保护和完全信息的风险。结果表明，在伦理性风险中，隐私保护的重要程度最大。随着人脸识别等设备广泛应用于各种公共服务场景，部分用户个人信息被泄露，隐私受到威胁。数字技术项目中应当注重个人信息收集的边界，满足最小必要原则，并防止不法分子利用人工智能等技术进一步推导出其他个人信息。

再者，政府在数字治理过程中存在政府监管不当而引发的问题，即监管性风险，包括监管失效、监管失职和监管俘获。结果表明，监管失效是政府监管中的主要风险。数字技术赋予了政府和其他利益相关者获得公众数据的极大权力。但是，立法和行政的滞后导致了权责不明、监管缺位的困境，现有法规无法有效规制这一新兴治理手段，从而带来监管失效。政府作为城市数据最大的拥有方，各种数据散落在不同部门，例如人脸识别系统部门的监管人员在面临多次信息泄露时，如何确认权责，有效监管数据，是公众关心的重点。

最后，部分单位可能滥用人脸识别技术侵害用户权益，引发社会公众的关注和担忧。例如，“无感式”人脸识别技术，在未经同意的情况下擅自采集消费者人脸信息，分析消费者的性别、年龄、心情等，进而采取不同营销策略，这些行为严重损害消费者的人格权益。上述问题为数字治理中的法律性风险，包括合法权益受损风险和权责模糊风险。结果表明，合法权益受损是法律性风险中的主要风险。在数字治理过程中，为了实现有效管理和高效决策，政府有权收集公民个人数据。但随着数字技术的高速发展和应用，公民个人信息的使用范围及传播频率不断扩大，传统的法律规范覆盖范围却并不全面，这就导致公民的合法权益受损。例如由于人脸识别获取和应用的特殊性，数据的所有权和使用权规定在行政法、民法和刑法中缺乏相关内容，尚待完善。 

二、建立以人为本的数字治理体系的对策与建议

为了更好地利用技术提升政府治理效能，我们需要在抵御风险和使更多人获利之间取得平衡。根据数据治理风险出现的原因和我们的调研结果，我们提出以下建议：

1.提升技术治理能力，防范算法偏误，提高算法质量。提升政府人员技术治理能力，采取事前及时防范的风险规避路径，将系统算法程序的主动权掌握在政府手中。一方面，加强技术人才培养，吸引高端技术人才到政府部门就职，充实政府的技术力量。新加坡2016年4月启动智慧国家奖学金计划，培养人才。相应的，我们也应该通过各种专项项目促进高等教育机构孵化国家智慧治理技术。另一方面，重视系统安全，避免受到病毒等网络攻击，给予政府信息化部门政策和资金倾斜，加大力度监管系统安全。同时，动员社会大众，共同挖掘系统漏洞，拓宽上报途径。政府、高校和企业共同建立专门的智慧国家研究集群和实验室，培养数据科学和网络安全方面的创新能力，以及IT解决方案，以实现更高效的公共管理。

2.适当保留人工服务以及实地走访，避免过度依赖技术而导致数字鸿沟和工具依赖问题。互联网、大数据、人工智能等新技术在政府治理中的应用能使社会治理更加有序规范、公共服务更加精准高效。但是，民众在生活、工作、教育等中所遇的问题千差万别，无法做到“一键化解”。此外，弱势群体，特别是老年人，因为不会使用智能产品导致在出行、银行服务等公共服务中受阻。因此，适当增加人口窗口和人工客服，可以解决某些审批部门等过度依赖互联网技术，民众求助无门的问题。通过实地走访，聆听民众的心声，解决民众在衣食住行、教育医疗、育儿养老、邻里矛盾等方面的问题，拉近民众和政府的心理距离，带动民众参与社会治理，实现共建共治共享的目标。

3.完善隐私保护机制，防范隐私泄露风险。完善隐私保护机制包含设立隐私保护监管机构、健全隐私保护制度、建立隐私保护流程和储备隐私保护技术。首先，政府需要设立专门监管机构，设置严格的数据访问权限控制、多重身份认证等，保护个人信息安全。其次，健全隐私保护制度需要明确隐私权的内涵和边界，即涵盖个人信息，通信私密、个人生活、家庭生活等隐私领域，规定侵犯隐私行为的处罚额度和赔偿责任。再者，政府的隐私保护流程中需要要求隐私保护规划与政府服务规划同步进行，并需要在政府数字服务的生命周期中持续注重隐私保护。最后，隐私保护技术储备需要政府与各大企业合作，建立一套数据和隐私保护的安全方案、标准及技术系统，涵盖从终端应用的数据采集、传输加密、数据存储与上传云端等一系列环节。

4.加大数字治理活动的监管力度，防范监管失效风险。为防止技术过度使用，需要完善监管部门职责，明确监管范围，对重点领域进行专项监督，出台严格监管措施，保障人、政府、社会的权益，维护政府技术治理秩序。2016年新加坡《网络安全法案》的出台对网络安全相关公司和个人都进行法律层面的约束。例如，网络安全服务提供商需要获得服务许可，并创建新的内部治理报告、网络安全事件管理流程。同时，公众协助进行网络安全调查。

5.完善数字治理活动的法律制度。数字治理需要法律制度支持，建议尽可能单独设立相关章节，规范技术应用，对新兴技术研发、使用、权责等问题进行规制，健全数据信息法律制度。当前，应着力解决因数据管理立法不全而带来的问题，如责权模糊不清等，完善数据安全管理的法律体系，追溯权责范围，为政府进行数字治理提供保障。此外，还应在行政法、民法、刑法中完善数字治理相关内容，构建数字治理的联合法律规范体系。在行政法方面,应该明确不同行政机构对信息收集者处理数字信息行为的许可权、审查权、处罚权、监督检查权和行政强制执行权等，从而建立以党的全面领导为引领，政府、社会、公民相互促进、共同监督的数据采用机制。