1、 ICS 35.020 CCS L 00 3301 浙江省杭州市地方标准 DB 3301/T 03722022 政务信息系统效能评估规范 2022-08-30 发布2022-09-30 实施杭州市市场监督管理局发 布 DB 3301/T 03722022 I 目次 前言.1 范围.1 2 规范性引用文件.1 3 术语和定义.1 4 评估原则.1 客观性.1 公平性.1 动态性.1 5 评估内容与指标.1 6 评估方法和结果评定.3 评估方法.3 数据采集方法.3 赋分方法.3 指标权重.3 得分计算.3 评估结果评定规则.4 7 评估流程.4 基本流程.4 确定评估主体.4 确定评估范围.4
2、制定评估方案.4 实施评估.4 输出评估结果.5 附录 A(资料性)政务信息系统效能评估指标赋分方法与权重示例.6 附录 B(资料性)政务信息系统效能评估方案示例.10 附录 C(资料性)政务信息系统效能评估报告示例.11 DB 3301/T 03722022 II 前言 本文件按照GB/T 1.12020标准化工作导则 第1部分:标准化文件的结构和起草规则的规定起草。请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。本文件由杭州市数据资源管理局提出、归口并组织实施。本文件起草单位:杭州市大数据管理服务中心(杭州市人民政府电子政务中心)、华信咨询设计研究院有限公司、杭州
3、城市大脑技术与服务有限公司。本文件主要起草人:张斌、沈春悦、倪嘉涛、齐同军、吴光静、孙茂阳、包洁娇、张浩然、孙巧、金畅圣、王宏宇。DB 3301/T 03722022 1 政务信息系统效能评估规范 1 范围 本文件规定了政务信息系统效能的评估原则、评估内容与指标、评估方法和结果评定、评定流程的要求。本文件适用于县级及以上政府部门对政务信息系统的效能评估。2 规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中,注日期的引用文件,仅该日期对应的版本适用于本文件;不注日期的引用文件,其最新版本(包括所有的修改单)适用于本文件。GB/T 406922021 政务信息系
4、统定义和范围 DB33/T 23502021 数字化改革术语定义 3 术语和定义 GB/T 406922021、DB33/T 23502021 界定的以及下列术语和定义适用于本文件。政务信息系统效能评估 effectiveness evaluation of government information system 依据可量化的评估指标和评估标准,运用科学、规范的评估方法,对政务信息系统的能力及效果进行综合性评估。4 评估原则 客观性 政务信息系统效能评估遵循政务信息系统建设管理规范和要求,科学设定评估指标体系,依托一体化智能化公共数据平台进行数据采集和评估,真实客观反应政务信息系统效能情况
5、。公平性 政务信息系统效能评估要求标准统一、数据准确、程序透明、评估公正,相关信息和评估结果定期公布,全过程留痕,接受上级部门监督。动态性 政务信息系统效能评估各项指标根据实际工作进展动态变化,聚焦政务信息系统效能目标和评估指标,阶段性动态体现政务信息系统效能。5 评估内容与指标 DB 3301/T 03722022 2 政务信息系统效能评估的内容包括全市已建成政务信息系统使用和产生的数据、组件、云资源、安全产品等。评估指标分为二级,见表1。表1 评估指标组成表 序号 一级指标 二级指标 指标含义 1 应用编目完整性 基础信息编目完整性 评估包括应用名称,应用状态,应用类型等信息的编目完整性。
6、2 关联数据目录完整性 评估包括关联的数据名称,数源单位,数据摘要等信息的编目完整性。3 关联组件目录完整性 评估包括关联的组件名称,业务领域,开放范围等信息的编目完整性。4 关联云资源目录完整性 评估包括关联的服务器名称,CPU,内存等信息的编目完整性。5 关联项目目录完整性 评估包括关联的项目名称,立项年度,立项金额等信息的编目完整性。6 关联厂商目录完整性 评估包括关联的开发厂商名称、社会信用代码、联系人等信息的编目完整性。7 应用安全性能信息完整性 评估包括等保级别,等保测评机构,等保测评得分等信息的编目完整性。8 数据能力 数据完整与规范性 评估政务信息系统数据是否有空值、是否有漏项
7、、是否有错值等完整性与规范性的情况。9 目录数据共享率 评估政务信息系统的数据中,提供共享数据(接口)的情况。10 目录数据开放率 评估政务信息系统的数据中,提供开放数据(接口)的情况。11 平台共享数据使用度 评估政务信息系统使用一体化智能化公共数据平台共享数据的情况。12 数据共享贡献度 评估政务信息系统提供的共享数据(接口)被使用的情况。13 数据开放贡献度 评估政务信息系统提供的开放数据(接口)被使用的情况。14 集约能力 CPU 平均利用率 评估政务信息系统云资源 CPU 月平均使用情况。15 内存平均利用率 评估政务信息系统云资源内存月平均使用情况。16 存储平均利用率 评估政务信
8、息系统云资源存储月平均使用情况。17 前端集成情况 评估政务信息系统是否在浙政钉或浙里办透出。18 多跨协同情况 评估政务信息系统是否跨层级、跨部门、跨业务、跨地域、跨系统。19 使用公共组件数量 评估政务信息系统使用公共组件的数量。20 产生公共组件数量 评估政务信息系统产生公共组件的数量。21 组件被申请次数 评估政务信息系统提供的公共组件被申请的次数。22 安全运行 等保测评评分 评估政务信息系统等级保护测评的情况。23 系统安全问题数量 评估政务信息系统被发现存在安全问题的等级和数量情况。24 安全工单及时处理率 评估政务信息系统安全问题的处置情况。25 系统可用性 评估政务信息系统正
9、常运行的情况。26 系统可靠性 评估政务信息系统优先使用信创名录产品情况。DB 3301/T 03722022 3 表 1 评估指标组成表(续)序号 一级指标 二级指标 指标含义 27 用户效能 用户活跃度 评估政务信息系统的日均活跃用户数。28 用户满意度 评估政务信息系统的用户评价情况。29 运维保障 系统运行问题数量 评估政务信息系统被发现存在运行问题的数量。30 运维工单及时处理率 评估政务信息系统运行问题的处置情况。31 配套制度保障 评估政务信息系统相关的制度重塑情况。32 系统运用 系统共享 评估政务信息系统“一地创新、全省共享”的情况。6 评估方法和结果评定 评估方法 评估方法
10、主要包括比较法、因素分析法、综合评估法等,在效能评估的不同阶段,可采用一种或多种方法,评估结论应全面精准。a)比较法:是指将系统实施情况与计划目标、现行要求、行业标杆等进行比较,或者不同部门和区县同类情况进行比较的方法,主要用于单个指标评估。b)因素分析法:是指综合分析影响系统目标实现、实施效果的内外因素的方法,主要用于分析被评估系统的短板和问题查找。c)综合评估法:是指将多个指标综合起来以指数或分值表示参评系统“综合状况”的排序,对系统进行综合评估。数据采集方法 效能评估基础数据采集以系统自动提取为主,必要时可采用文档资料查阅、系统查看、问卷调研、现场调查等辅助方式。赋分方法 6.3.1 效
11、能评估指标的得分根据评估考核要求的实现度、贡献度、排名度、标杆值、减分法等进行赋分。赋分方法参考政务信息系统在数据、组件、云资源、安全等方面的相关标准与规范进行确定。a)实现度赋分:根据实现百分比、是否完成、关键点达成等方式赋分。b)贡献度赋分:根据完成数量、调用数量等按区间或者按比例赋分。c)排名度赋分:根据排名情况按区间或者按梯度赋分。d)标杆值赋分:根据是否达到标杆值(历史水平、现行水平、前瞻要求等)方式赋分。e)减分法赋分:根据异常情况,针对标准分进行扣减的方式赋分。6.3.2 赋分方法的具体应用示例见附录 A。指标权重 6.4.1 某一指标的权重代表该指标在整体评估中的相对重要程度。
12、各层级指标权重设置根据指标重要程度、数字化改革实施阶段等主客观因素综合确定,并可根据实际情况定期调整。6.4.2 指标权重的具体设置示例见附录 A。得分计算 DB 3301/T 03722022 4 效能评估采用综合评分定级方法,总分值为100分,按公式(1)计算:=1 (1)式中:E综合评估得分;二级指标中第i个指标的百分制评估得分,i的取值范围为1n;二级指标中第i个指标对应的权重,其中所有指标的权重之和应为100%。评估结果评定规则 6.6.1 评估结果按得分评级为优秀、良好、合格、不合格四种,根据综合评估得分,评级划分标准如下:a)得分 85 分(含)以上的为“优秀”,建议推广复用;b
13、)得分 75(含)85 分的为“良好”,建议继续提升;c)得分 60(含)75 分的为“合格”,建议继续提升;d)得分低于 60 分的为“不合格”,建议限期整改,若整改不到位则作淘汰处理。6.6.2 对于政务信息系统存在重大安全事故等情况,采用“一票否决”制,直接定档为不合格。7 评估流程 基本流程 政务信息系统评估流程应按照确定评估主体、确定评估范围、制定评估方案、实施评估、输出评估结果5个步骤实施。确定评估主体 政务信息系统效能评估的主体一般为各级具有信息化项目统筹管理职能的政府机构。根据工作需要,评估主体可委托第三方专业机构具体实施效能评估,并对第三方机构的相关工作进行指导监督。确定评估
14、范围 应按照实际评估需要确定评估范围,可根据建设年份、建设单位、投资规模、业务类型、系统类型等因素确定。制定评估方案 7.4.1 应制定评估方案,并在实施评估前将评估方案告知建设单位,评估方案主要包括:a)评估主体;b)评估范围;c)评估周期;d)评估指标;e)数据采集方法;f)赋分规则;g)指标权重;h)评估结果评定规则。7.4.2 政务信息系统效能评估方案示例见附录 B。实施评估 DB 3301/T 03722022 5 应按照规定评估周期对政务信息系统进行评估,按照评估方案中的数据采集方法完成评估指标体系的取数工作,记录指标数值、取值来源、取值说明等,整理评估证明材料,并按照赋分规则确定
15、各指标得分。输出评估结果 应按照评估方案中的指标权重计算各政务信息系统整体得分,并根据评估结果评定规则评定各政务信息系统效能评估结果,编写政务信息系统效能评估报告,政务信息系统效能评估报告示例见附录C。DB 3301/T 03722022 6 附录A (资料性)政务信息系统效能评估指标赋分方法与权重示例 下面给出了政务信息系统效能评估指标赋分方法与权重的示例,包含了实现度赋分、贡献度赋分、排名度赋分、标杆值赋分、减分法赋分等赋分方法和指标权重。示例:表A.1 政务信息系统效能评估表 一级指标 二级指标 指标说明 赋分方法 权重 应用编目完整性 基础信息编目完整性 评估政务信息系统是否按照各目录
16、的要求,对政务信息系统相关的信息进行编目,是否做到应编尽编。采用实现度赋分(是否完成):按照应用编目相关要求,完成得满分,未完成不得分。1 关联数据目录完整性 1 关联组件目录完整性 1 关联云资源目录完整性 1 关联项目目录完整性 1 关联厂商目录完整性 1 应用安全性能信息完整性 1 数据能力 数据完整与规范性 评估政务信息系统数据是否有空值、是否有漏项、是否有错值等完整性与规范性的情况。采用实现度赋分(实现百分比):(1)完整与规范的数据占全部数据的比重达到 100%的,得满分;(2)未达到 100%的,每下降 20%,扣相应分值。3 目录数据共享率 评估政务信息系统提供共享数据(接口)
17、占系统全部编目数据的比重。采用实现度赋分(实现百分比):(1)可共享数据占该系统全部编目数据的比重达到 100%的,得满分;(2)未达到 100%的,每下降 20%,扣相应分值。5 目录数据开放率 评估政务信息系统提供开放数据(接口)占系统全部编目数据的比重。采用实现度赋分(实现百分比):(1)可开放数据占该系统全部编目数据的比重达到 50%,得满分;(2)未达到 50%的,每下降 10%,扣相应分值。5 平台共享数据使用度 评估政务信息系统使用一体化智能化公共数据平台共享数据的数量。采用贡献度和排名度赋分:(1)按系统使用共享数据的次数在评估范围中的排名确定分数,以 20%划分一档,前20%
18、的得满分,排名每下降 20%,扣相应分值;(2)未使用共享数据的,不得分。5 数据共享贡献度 评估政务信息系统提供的共享数据(接口)被申请的次数和调用的次数。采用贡献度和排名度赋分:(1)按系统提供的共享数据被申请的次数和调用的次数在评估范围中的排名确定分数,以 20%划分一档,前 20%的得满分,排名每下降 20%,扣相应分值;(2)共享数据未被调用的,不得分。5 DB 3301/T 03722022 7 表 A.1 政务信息系统效能评估表(续)一级指标 二级指标 指标说明 赋分方法 权重 数据能力 数据开放贡献度 评估政务信息系统提供的开放数据(接口)被申请的次数和被调用的次数。采用贡献度
19、/排名度赋分:(1)按系统开放数据被申请的次数和调用的次数在评估范围中的排名确定分数,以20%划分一档,前 20%的得满分,排名每下降20%,扣相应分值;(2)共享数据未被调用的,不得分。5 集约能力 CPU 平均利用率 评估政务信息系统对云资源的利用率是否达到相关的标准或要求。采用标杆值赋分(现行水平):(1)CPU 月平均利用率达到 20%的云服务器数量,占系统云服务器总数的比例,达到 60%的,得满分;(2)比例未达到 60%的,不得分。6 内存平均利用率 采用标杆值赋分(现行水平):(1)内存月平均利用率达到 35%的服务器数量,占系统云服务器总数的比例,达到 60%的,得满分;(2)
20、比例未达到 60%的,不得分。存储平均利用率 采用标杆值赋分(现行水平):(1)存储月平均利用率达到 40%的服务器数量,占系统云服务器总数的比例,达到 60%的,得满分;(2)比例未达到 60%的,不得分。前端集成情况 评估政务信息系统是否在浙政钉或浙里办透出。采用实现度赋分(是否完成):系统按照相关要求在浙里办或浙政钉透出的得满分,未实现不得分。3 多跨协同情况 评估政务信息系统是否跨层级、跨部门、跨业务、跨地域、跨系统。采用实现度赋分(是否完成):按照相关要求,系统实现多跨协同的得满分,未实现不得分。3 使用公共组件数量 评估政务信息系统使用公共组件的数量。采用贡献度赋分(调用数量):每
21、使用 1 个公共组件,得相应分值,满分为止。3 产生公共组件数量 评估政务信息系统产生公共组件的数量。采用贡献度赋分(完成数量):每贡献 1 个公共组件,得相应分值,满分为止。3 组件被申请次数 评估政务信息系统提供的公共组件被申请的次数。采用贡献度赋分(申请数量):每有 1 个公共组件被 1 个其他系统申请的,得相应分值,满分为止。2 DB 3301/T 03722022 8 表 A.1 政务信息系统效能评估表(续)一级指标 二级指标 指标说明 赋分方法 权重 安全运行 等保测评评分 评估政务信息系统等保测评评分高低的情况。采用标杆值赋分(现行水平):(1)等保 2.0 定级为二级及以上的,
22、且评分结果大于 90 分的,得满分;评分结果不足 90 分的,按评分结果扣相应分值;评分结果低于 70 分或无评分结果的,不得分。(2)等保 2.0 定级为一级,无需等保测评的,得满分。4 系统安全问题数量 评估政务信息系统被发现存在安全问题的数量,参考安全问题工单的等级和数量衡量。采用减分法赋分(异常情况):(1)评估期内系统不存在安全问题工单的,得满分;(2)每有 1 个紧急、高、中、低相应等级问题工单的,分别扣相应分值。4 安全工单及时处理率 评估政务信息系统安全问题的处置速度,参考安全问题工单及时处理的比率衡量。采用实现度赋分(实现百分比):(1)安全问题工单及时处理率达 100%或不
23、存在安全问题工单的,得满分;(2)不足 100%的,安全问题工单及时处理率每降低 20%,扣相应分值。4 系统可用性 评估政务信息系统正常运行的情况,参考可用时间的比率来衡量。采用标杆值赋分(历史水平):(1)系统月可用时间高于 99.99%的,得满分(2)系统月可用时间低于 99.99%的,每下降 0.01%,扣相应分值。4 系统可靠性 评估政务信息系统优先使用信创名录产品的情况。采用实现度赋分(实现百分比):(1)系统完成信创改造的,得满分;(2)系统完成信创适配的,得相应分值;(3)系统未有信创改造和适配的,不得分。4 用户效能 用户活跃度 评估用户使用政务信息系统的日均活跃用户数。采用
24、排名度赋分:按用户活跃度在评估范围中的排名情况确定分数,以 20%划分一档,前 20%的得满分,排名每下降 20%,扣相应分值。5 用户满意度 评估用户对政务信息系统的用户评价情况。采用排名度赋分:按用户平均满意度在评估范围中的排名情况确定分数,以 20%划分一档,前 20%的得满分,排名每下降 20%,扣相应分值;无用户满意度评估的不得分。5 DB 3301/T 03722022 9 表 A.1 政务信息系统效能评估表(续)一级指标 二级指标 指标说明 赋分方法 权重 运维保障 系统运行问题数量 评估政务信息系统被发现存在运行问题的数量,参考相关运维工单的数量衡量。采用减分法赋分(异常情况)
25、:(1)评估期内系统不存在运行问题的,得满分;(2)每有 1 个运行问题相关运维工单的,扣相应分值。4 运维工单及时处理率 评估政务信息系统运行问题的处置速度,参考运维工单及时处理的比率衡量。采用实现度赋分(实现百分比):(1)运维工单及时处理率达 100%或不存在运维问题工单的,得满分;(2)不足 100%的,运维工单及时处理率每降低 20%,扣相应分值。4 配套制度保障 评估政务信息系统是否带来了相关的制度重塑,参考重塑制度的级别和数量衡量。采用实现度赋分(关键点达成):(1)带来相关级别的制度或标准重塑的,得相应分值;(2)未带来相关制度或标准重塑的,不得分。2 系统运用 系统共享 评估
26、政务信息系统“一地创新、全省共享”的情况。采用实现度赋分(关键点达成):(1)当前政务信息系统被借鉴或者复用的,得相应分值;(2)未被借鉴或者复用的,不得分。5 DB 3301/T 03722022 10 附录B (资料性)政务信息系统效能评估方案示例 下面给出了政务信息系统效能评估方案的示例。示例:级 年度政务信息系统效能评估方案 一、效能评估工作目标(明确本次效能评估工作的主要目标,分点说明)二、效能评估工作组织(一)评价主体(明确XX级政府部门及其工作职责)(二)实施团队(明确具体实施团队及其工作职责)(三)各系统建设单位(明确有关建设单位名单及其工作职责)三、效能评估政务信息系统范围(
27、一)评估范围选取原则(二)效能评估拟评清单(附表说明,包括建设单位、系统名称等)四、效能评估工作流程(附表说明,包括工作阶段、工作内容、耗费时间、产出成果等)五、效能评估指标体系(附表说明,包括评估指标体系、数据采集方法、赋分规则、指标权重等)六、效能评估结果评定规则(明确评估结果评级划分标准等规则)七、进度安排与人员安排(附表说明,包括总体进度安排表、评估团队成员名单)八、工作成果与应用(一)工作成果(二)工作成果应用 DB 3301/T 03722022 11 附录C (资料性)政务信息系统效能评估报告示例 下面给出了政务信息系统效能评估报告的示例。示例:级 年度政务信息系统效能评估报告 一、效能评估概况(一)评价范围(包括评估范围选取原则与效能评估系统清单)(二)评价内容与指标(附表说明)二、效能评估方法(一)总体原则(二)数据采集方法(三)赋分方法与指标权重(附表说明)(四)结论得出方法 三、效能评估结果(分析效能评估总体情况及各一级指标评估结果,附相关效能评分表)(一)总体情况(二)应用编目完整性(三)数据能力(四)集约能力(五)安全运行(六)用户效能(七)运维保障 四、问题与建议(一)主要问题(二)提升建议