您好,欢迎来到筏尚旅游网。
搜索
您的当前位置:首页财政支出项目绩效评价操作指南重点讲义资料

财政支出项目绩效评价操作指南重点讲义资料

来源:筏尚旅游网


财政支出项目绩效评价操作指南

(试行)

海南省财政厅 2010年8月

目录

1

引言 .......................................................................................................................................... 1 1.1 1.2 1.3 1.4 2

背景 ................................................................................................................................... 1 目的 ................................................................................................................................... 1 内容 ................................................................................................................................... 1 使用 ................................................................................................................................... 4

项目绩效评价的基本概念 ....................................................................................................... 5 2.1 2.2 2.3 2.4 2.5

绩效评价的定义 .................................................................................................................... 5 绩效评价的原则 .................................................................................................................... 5 项目的逻辑模型 .................................................................................................................... 5 绩效评价的准则 .................................................................................................................... 6 绩效评价的步骤 .................................................................................................................... 7

3 评价任务的组织....................................................................................................................... 9 3.1 3.2 3.3

评价任务的组织模式 ............................................................................................................ 9 评价管理者的职责 ................................................................................................................ 9 绩效评价小组 ........................................................................................................................ 9

4 编制评价任务大纲................................................................................................................. 11 4.1 4.2 4.3

功能 ....................................................................................................................................... 11 编写步骤 .............................................................................................................................. 11 内容 ....................................................................................................................................... 12

5 绩效评价设计......................................................................................................................... 15 5.1 5.2 5.3

前期准备 .............................................................................................................................. 15 开发绩效评价框架 .............................................................................................................. 16 完成绩效评价实施方案 ..................................................................................................... 27

6 绩效评价的实施..................................................................................................................... 30 6.1 6.2 6.3 6.4 6.5

证据收集 .............................................................................................................................. 30 证据整理 .............................................................................................................................. 35 分析 ....................................................................................................................................... 36 绩效评级 .............................................................................................................................. 37 形成评价结论、经验教训和建议 ..................................................................................... 39

7 评价结果的报告..................................................................................................................... 41

I

7.1 7.2 7.3 7.4 7.5 8

执行摘要的编写 .................................................................................................................. 42 主体报告 .............................................................................................................................. 42 附件 ....................................................................................................................................... 47 与利益相关者沟通 .............................................................................................................. 47 形成报告终稿 ...................................................................................................................... 47

评价结果的使用和扩散 ......................................................................................................... 48 8.1 8.2

评价结果的使用 .................................................................................................................. 48 评价结果的扩散 .................................................................................................................. 49

9 绩效评价的质量控制............................................................................................................. 50 9.1 9.2

高质量绩效评价的特点 ..................................................................................................... 50 不同阶段的质量控制 .......................................................................................................... 50

附件 ................................................................................................................................................ 53 附件1《评价任务大纲》格式 .................................................................................................. 53 附件2《绩效评价实施方案》格式 .......................................................................................... 附件3《财政支出项目绩效评价报告》格式 .......................................................................... 57

II

表 4-1 评价任务大纲评价任务实施计划模板 ............................................................................ 14 表 5-1 项目基础信息表 ................................................................................................................ 16 表 5-2 绩效评价框架结构 ............................................................................................................ 17 表 5-3关键评价问题的适用性 ..................................................................................................... 20 表 5-4 相关性评价指标开发-以辽宁城市交通项目为例 ........................................................... 22 表 5-5 效率评价指标开发-以辽宁城市交通项目为例 ............................................................... 23 表 5-6效果评价指标开发-以辽宁城市交通项目为例 ................................................................ 24 表 5-7可持续性评价指标开发–以辽宁城市交通项目为例 ....................................................... 25 表 5-8 证据收集方法的优缺点 .................................................................................................... 27 表 5-9辽宁城市交通项目省级座谈会问题清单-部分 ................................................................ 28 表 5-10绩效评价任务分解模板 ................................................................................................... 29 表 6-1 案卷研究方法收集证据 – 以辽宁城市交通项目为例 ................................................... 31 表 6-2 面访人员清单 .................................................................................................................... 32 表 6-3 座谈会参与人员清单 ........................................................................................................ 34 表 6-4绩效评价表 ......................................................................................................................... 38 表 7-1 项目关键信息 .................................................................................................................... 43 表 7-2 XX项目绩效评价等级表 .................................................................................................. 43

图 1-1绩效评价操作指南框架 ....................................................................................................... 3 图 2-1项目逻辑模型 ....................................................................................................................... 6 图 5-1 绩效评价设计流程 ............................................................................................................ 15 图 5-2 设计阶段绩效评价框架开发流程 .................................................................................... 18 图 7-1绩效评价报告编写流程 ..................................................................................................... 42

III

专栏

专栏 4-1高质量评价任务大纲的核查问题清单 ......................................................................... 14 专栏 5-1 开发评价指标的原则 .................................................................................................... 21 专栏 5-2 辽宁城市交通项目简介 ................................................................................................ 21 专栏 5-3 绩效评价证据来源 ........................................................................................................ 26 专栏 6-1 证据收集的一般规则 .................................................................................................... 30 专栏 6-2 面访记录格式 ................................................................................................................ 32 专栏 6-3 辽宁城市交通项目省级座谈会日程安排 .................................................................... 33 专栏 6-4 座谈会记录格式 ............................................................................................................ 34 专栏 6-5 实地调研记录格式 ........................................................................................................ 35 专栏 6-6 评价结论举例-河北公路发展项目绩效评价 ............................................................... 39 专栏 6-7经验教训举例-河北公路发展项目绩效评价 ................................................................ 39 专栏 6-8 建议举例-河北公路发展项目绩效评价 ....................................................................... 40 专栏 7-1 撰写绩效评价报告的要点 ............................................................................................ 41 专栏 7-2图、表的编制原则 ......................................................................................................... 45 专栏 7-3绩效分析格式 ................................................................................................................. 45

IV

1 引言

1.1 背景

2009年6月22日,财政部发布了《财政支出绩效评价管理暂行办法》(财预2009[76]号)(以下简称《办法》)。财政支出绩效评价自此有了统一的部门规章。《办法》对绩效评价的实施和管理提出了明确要求,对绩效评价涉及的各方职责、评价内容、评价指标的确定、评价方法、实施程序、报告撰写和评价结果应用作出了原则性的规定。《办法》同时指出,各地可据此《办法》制定切合本地实际的管理办法和实施细则。

为此,海南省财政厅参照财政部《国际金融组织贷款项目绩效评价操作指南》并在开展绩效评价试点的基础上,组织编写了《财政支出项目绩效评价操作指南》(以下简称《指南》),用以指导全省各级部门开展绩效评价工作。

1.2 目的

本《指南》旨在向全省各级部门和评价人员开展财政支出项目绩效评价(简称绩效评价1),提供具体操作指导,从而帮助他们更好地理解、管理和实施评价活动,并提高评价的规范性和质量。本《指南》有3个主要目的:

帮助各级部门管理人员、项目实施人员和评价人员更好地理解并掌握财政支出项目绩效评价的基本概念、一般准则、方法及其他相关知识;

帮助各级部门有效地开展绩效评价管理工作,并对绩效评价进行质量控制;

指导评价人员规范地实施绩效评价任务,从而提高绩效评价的质量。

此外,本《指南》还可以作为各级部门建立适合本地、本部门实际的绩效目标管理系统的重要参考。

1.3 内容

本《指南》包括9章内容。第1章是引言,主要说明《指南》编写的背景、目的、内容及其使用。第2章是绩效评价的基本概念,主要介绍本《指南》涉及

1

以下如无特殊说明,绩效评价均指的是财政支出项目绩效评价。

1

的定义、评价原则、准则、评价步骤等。第3、4章是绩效评价管理,主要阐述评价任务的组织和评价任务大纲的设计与编写。第5-7章是绩效评价的设计与实施,重点介绍绩效评价的设计、实施和评价报告编写。第8章是评价结果的使用与扩散,介绍如何使用评价结果,如何进行评价结果的扩散。第9章是绩效评价的质量控制。质量控制对于绩效评价非常关键,是评价管理者重要工作之一。质量控制贯穿于绩效评价从设计、实施到撰写报告的全过程。

2

图1-1财政支出项目绩效评价操作指南框架

确定评价任务 前期准备 (准备阶段) 评价设计 (设计阶段) 5章) (第 评价实施 (实施阶段) (第6章) 报告结果 (报告阶段) (第7章) 结果使用和扩散 (使用和扩散阶段) (第 8章)

确定评价任务的实施模式(第3章) 编制评价任务大纲(第4章) 前期准备 开发绩效评价框架(核心) 形成评价实施方案 (质第量控章制)9 证据收集 证据整理 (质第量控章制)9 证据分析 绩效评级 形成评估结论、经验教训和建议 编写报告正文、摘要、附件初稿 绩效评价初稿 (质第量控章制)9 与利益相关者沟通 修改形成绩效评价终稿 3

1.4 使用

本《指南》适用于《办法》中涉及的财政性资金安排的支出项目(以下简称项目2)。本《指南》的使用者包括各级财政部门及其他部门中负责绩效评价管理的人员、参与财政支出项目绩效评价的评价人员、咨询专家及其他相关人员。本《指南》的内容针对不同使用者的需求进行了编排。第1、2、8章适用于所有使用者阅读和使用,第3、4、9章主要供绩效评价管理者阅读和使用,第5、6、7章则主要供评价人员、咨询专家阅读和使用。当然,我们鼓励使用者阅读完《指南》的全部内容,以便更好地理解并开展绩效评价工作。

2

如无特殊说明,以下“项目”均指财政性资金安排的项目。

4

2 项目绩效评价的基本概念

2.1绩效评价的定义

绩效评价的定义是开展项目绩效评价相关各方相互沟通和理解的一个基础。本《指南》所称的绩效评级,是指财政部门和预算部门(单位)根据设定的绩效目标,运用科学、合理的评价方法、指标体系和评价标准,对财政支出产出和效果进行客观、公正的评价。

2.2绩效评价的原则

客观、公正原则。应当依据绩效评价准则、关键评价问题等开展评价活动,确保评价结果的真实性。

科学、规范原则。绩效评价的设计应当具有科学性和可操作性,评价的实施应该遵循规范的程序和方法。

可靠性原则。绩效评价应该既要报告项目成功的方面,也要报告项目失败的方面。

目标导向原则。绩效评价以项目目标为导向,重点评价项目目标的相关性、目标实现程度、相对于目标实现程度的效率、以及项目成效的可持续性。

参与性原则。项目各利益相关者,包括项目管理方、项目实施单位、项目受益群体、有关专家等,要尽可能地以适当方式参与到考评过程中来。

2.3项目的逻辑模型

财政支出项目的设计都应使用逻辑模型。项目逻辑模型是一种理解从投入到结果之间的因果关系的有效工具。项目逻辑模型包括投入、活动、产出、成效、影响5个关键要素。其背后的逻辑是:对一个项目投入一定的资源,以便其开展必要的活动;至少有一些活动会获得一些产出,比如产品和服务;通过使用这些产出应该会带来某种变化。

投入(Inputs):指用于项目实施的各种资源,包括人力、资金、实物、时间和专业技能等资源。

5

活动(Activities):我们所做的。指为实现项目目标而调动和使用各种资源的各项行动和工作,活动可以使用动词来表述(开展、建设、培训、调研等)。

产出(Outputs):我们所生产的。指通过实施各项活动而产生的产品和服务,是有形的,可计算的。比如为50个人提供了医疗服务,培训了100名小学教师,修建了100公里公路。

成效(Outcomes):我们为何做。指通过使用项目的产出而带来的短期或中期的直接效果,成效能够被增加、减少、增强、改善或维持。比如新修公路使通行时间缩短,提高了运输效率。设定清晰的成效对于设计和构建结果导向的监测与评价体系至关重要,成效不能直接考核,它必须转化为一组关键指标,这些指标能够提供关于成效是否得以实现的信息。

影响(Impacts):指由成效累积导致的长期的或全面的变化,类似于战略目标。比如运输效率提高降低了运输成本(成效),从而促进了当地经济的发展(影响)。

图2-1以某培训项目为例,解释项目逻辑模型。

图2-1项目逻辑模型——以某培训项目为例

投入 活动 1.培训 2.教育 3.咨询服务

产出 1.服务时数 2.完成课程的参加者人数

成效 1.技能提升 2.态度改变 3.新的就业机会

影响 1.培训者在5年内比那些没有接受培训的人挣得更多

2.接受培训的人的生活水平高于

1.资金

2.人员 3.物料供应

控制组

2.4绩效评价的准则

本《指南》采用以下4个评价准则,即相关性、效率、效果和可持续性。 2.4.1相关性

相关性是指项目目标与的发展和优先重点、部门/行业发展规划以及受益群体的需求的相符程度。通过对相关性的评价,可以检查项目设计和项目

6

实施是否针对当地的实际需求,解决当地的实际问题。 2.4.2效率

效率是指资源/投入转化为结果的经济性。效率评价的内容包括项目实施的时间效率、资金使用、在使用既定资源下的产出情况、项目的经济内部收益率(EIRR)。

项目实施的时间效率考察项目是否按计划的时间开工、是否在计划实施周期内完工。资金使用考察项目资金的使用是否按照预算执行。在使用既定资源下的产出情况是指项目是否实现了所有的预计产出。项目经济内部收益率是指项目周期内经济净现值累计等于零的折现率,是反映项目对国民经济和社会贡献的相对指标。 2.4.3效果

效果是指项目目标的实现程度,它也表现为目标群体的受益情况。效果从项目目标实现程度和项目瞄准度两方面进行评价。项目目标是在项目设计时的预计成效,指通过一系列项目活动而要实现的结果,通常表现为对社会、经济、社区、目标人群所产生的积极作用。项目瞄准度是指考察项目成果是否真正地被目标群体享有。也就是说,项目效果的评价不仅取决于项目实现预期目标的程度,也要考察其成果(一般表现为项目提供的产品或服务)是否使目标人群受益。 2.4.4可持续性

可持续性是指项目完工后持续运行和发挥成效的可能性。它针对保障项目持续运行并发挥成效的各方面因素进行评价,这些因素包括项目管理或运行机构的持续性、项目产出的维护和利用、制度保障等。此外,由于财政部门对项目还款十分关注,可持续性还对项目还款能力进行评价。

2.5绩效评价的步骤

绩效评价一般包括以下几个步骤,每个步骤的详细内容和做法将在以后各章进行阐述。

 第1步:前期准备

前期准备包括确定绩效评价任务和评价组织实施模式(见第3章)、编制评

7

价任务大纲(见第4章)等。

 第2步:评价设计

根据评价任务大纲设计详细的评价实施方案,包括开发绩效评价框架、选择证据收集方法、设计面访、座谈会和实地调研等的问题清单、进行人员、时间和经费安排等(见第5章)。

 第3步:评价实施

按照设计的方案开展绩效评价,包括证据收集整理、证据分析、形成评价结论、经验教训和建议等(见第6章)。

 第4步:报告评价结果

按照本《指南》附件3的格式编写绩效评价报告,在此过程中要与利益相关者进行沟通,并将他们的观点和意见吸收到评价报告中来(见第7章)。

 第5步:评价结果使用和扩散

项目管理部门利用评价结果,用于解决问题、改进管理或为决策提供依据。财政部门将评价结果与以后年度的预算安排进行挂钩(见第8章)。

8

3 评价任务的组织

具体评价任务由财政部门以文件形式下达的年度评价计划确定。

3.1 评价任务的组织模式

评价任务可以由管理部门(各级财政部门和预算部门)组织实施,也可根据需要委托外部专业机构或专家进行,并与其签订委托合同。无论采取哪种方式,管理部门都应指派一名评价管理者,并要组建合格的评价小组实施绩效评价。

3.2 评价管理者的职责

评价管理者应为熟悉被评项目的管理人员,应履行以下职责:

编写绩效评价任务大纲;

与评价小组进行充分沟通,使其完全理解评价任务大纲的每一项内容; 为评价活动提供必要的支持和及时的反馈; 监督评价活动的进展并进行质量控制; 对评价活动中出现的情况及时做出决策; 如委托合同需要变更,应与评价小组进行协商; 检查评价报告初稿是否符合合同和《指南》的要求; 对评价报告初稿提出反馈意见;

确保各利益相关者有机会对评价报告初稿提出意见和建议,并保证这些意见和建议反映在评价报告终稿中;

促进评价结果的使用和扩散。

3.3 绩效评价小组

3.3.1 评价小组应具备的知识和技能

不管是管理部门自己评价,还是委托外部专业机构或专家评价,都需要成立绩效评价小组。评价小组是进行绩效评价的设计、实施和报告编写的团队。评价小组对于绩效评价尤为重要。它是评价任务能否成功实施的关键因素。虽然绩效评价需要的知识和技能因不同项目而异,但以下列出的知识和专业技能是评价小组必须具备的:

9

绩效评价知识和技能:这是一种综合的能力,包括绩效评价理论知识、方法和其他技能,如经济分析、统计分析、社会调查等。

沟通能力:沟通能力十分重要,它有利于与利益相关者进行友好沟通,促进利益相关者参与绩效评价并提供必要协助,并向不同用户有效地报告评价结果。

组织协调能力:组织协调能力是保证绩效评价顺利实施的关键,包括组织和调动各种资源、协调评价中不同任务的进展、控制评价任务在规定的时间内完成。

行业知识:评价小组要熟悉项目所在的行业背景、发展状况、相关、专业知识等。

了解当地情况:因为项目实施的成功与否有时取决于当地因素,所以了解当地社会和文化背景很重要。评价小组还需要了解当地的发展、优先重点、以及面临的主要发展问题。如果项目的目标群体还涉及少数民族,还应该了解并尊重他们的生活习俗,以便更好地与他们进行沟通。

3.3.2 评价小组的构成

评价小组由若干名评价人员组成。评价小组成员不得与项目管理、实施、运行等有利益冲突。并不要求评价小组的每名成员都具备上述知识和能力,允许评价人员各具专长,通过互相补充、互相学习而使整个评价小组具备上述知识和技能,从而胜任评价任务。

评价小组必须指定一名评价组长。组长应该具备以下条件:

具有较为深厚的绩效评价知识和技能;

熟悉被评项目所在领域的相关、技术、管理等知识; 具有较强责任心。

评价组长应履行以下职责:

负责与管理部门沟通;

督促并协调评价小组成员的工作并管理日常工作; 在评价小组出现不同意见时充当协调人; 确保评价小组按照评价任务大纲实施评价; 编写评价报告并负责报告最终定稿。

10

4 编制评价任务大纲

评价任务大纲(Terms of Reference,TOR)是一个书面文件,它载明评价的目的和范围、评价使用的方法、绩效评价或分析针对的标准、需要的资源、时间安排和评价报告要求。每个项目绩效评价都必须编写一个评价任务大纲。

4.1功能

评价任务大纲体现了管理部门对绩效评价的要求,是从评价任务组织到评价结果使用与扩散的整个评价活动必须遵循的核心文件。评价任务大纲对于绩效评价至关重要,主要发挥以下4个方面的作用:

   

将年度评价计划中的任务转化成可操作的评价工作; 为评价小组进行具体评价设计和实施提供基础; 为各利益相关方对评价任务形成共识提供基础;

为评价管理者进行绩效评价质量控制、核查评价小组任务完成情况提供依据。

4.2编写步骤

评价任务大纲由评价管理者根据确定的评价任务进行编写,编写评价任务大纲一般包括4个步骤:前期准备、起草评价任务大纲初稿、与利益相关者沟通、形成最终评价任务大纲。 4.2.1前期准备

编写之前要对项目进行必要的研究和分析,要明确评价目的,熟悉项目目标、特点、实施和完成情况,了解项目实施的社会经济背景,掌握项目现有数据信息情况。

4.2.2 起草评价任务大纲初稿

在前期准备和估算用于评价的资源(包括经费、人员和时间)等基础上,编写评价任务大纲初稿。

11

4.2.3 与利益相关者沟通

评价任务大纲初稿要与项目主管部门、项目实施及运行机构、行业专家等主要利益相关者进行沟通,听取他们的意见和建议。 4.2.4 形成最终评价任务大纲

在考虑利益相关者的建议和意见基础上,修订完善评价任务大纲初稿,形成最终评价任务大纲。

4.3内容

高质量的评价任务大纲应该包括以下几部分内容:评价目的、项目描述、评价范围、涉及的利益相关者、关键评价问题、方法、预期成果、评价小组、实施计划、费用与支付、管理部门责任等。 4.3.1评价目的

评价任务大纲的第一部分要明确评价目的。评价目的要具体写明为什么要开展此项评价,评价结果将如何使用,以及由谁使用。 4.3.2项目描述

对项目背景、项目目标、项目投入与活动、实施情况等方面进行简要描述,以便评价人员能够迅速了解项目基本情况。

项目背景:项目实施的国家层面和地方层面的社会经济发展状况,项目所属的领域,所要解决的主要问题,如基本医疗卫生服务不足问题、城市交通发展瓶颈问题、环境污染问题等。

项目目标:项目的预期产出和成效,如果项目设定了具体目标,还应描述其具体目标。

项目投入与活动:项目投入金额和构成,为了实现项目目标而设置的项目组成(Components)及其开展的活动(Activities)。

实施情况:项目的实施周期(从开工到完工),实施地点,实施组织情况。

4.3.3评价范围

评价范围确定了绩效评价的广度和深度,包括时间范围、地域范围和收益群体范围。评价范围往往与评价目的有关。

12

4.3.4涉及的利益相关者

项目往往涉及多个利益相关者,包括管理部门、项目实施机构、项目运行机构、目标群体、社区等。要说明希望他们参与绩效评价的形式。上述描述是为了使评价人员了解项目的利益相关者,并尽可能从他们那里收集到绩效评价的有用信息。

4.3.5关键评价问题

这部分要列出绩效评价想要回答的关键问题。关键评价问题是针对评价目的,在评价准则基础上进行开发的。本《指南》列出了12个必须回答的关键评价问题(见第5.2.1节)。管理部门根据需要,可以突出其中若干个问题,或补充其他问题。 4.3.6方法

描述证据收集可能用到的方法,比如案卷研究、面访、实地调研、问卷调查、座谈会等。不同方法的成本不同,在选择使用何种方法时要考虑绩效评价的预算。具体方法由评价小组进行开发。 4.3.7预期成果

通过绩效评价管理部门想要获得的成果,如绩效评价报告、评价进展报告及其提交时间。如果评价成果要用于扩散(如研讨会),那么这部分还要描述评价人员在成果扩散中应发挥哪些作用。 4.3.8评价小组

这部分要描述评价小组所需要的知识、能力和经验,以及其他相关能力,如语言能力;还要描述建议的评价小组人数。 4.3.9实施计划

这部分说明评价任务将要开展的活动及时间安排,尤其是评价成果的提交时间节点。这里主要列出评价任务实施的关键时间节点和任务负责人,详细的实施计划由评价小组开发。实施计划模板(见表 4-1)。

13

表 4-1 评价任务大纲评价任务实施计划模板

序号 1 2 3 4 5 6 7 活动描述 签订任务合同 时间安排 XX年XX月 负责人 XX管理部门、评价小组 评价小组 开发绩效评价框架 XX年XX月 形成评价方案 评价实施 提交报告初稿 利益相关者反馈 评价报告终稿 XX年XX-XX月 评价小组 XX年XX-XX月 评价小组 XX年XX月 XX年XX月 XX年XX月 评价小组 XX管理部门及其他利益相关者 评价小组 注:如果由财政部门自己开展绩效评价,这个步骤则省略。 4.3.10费用与支付

这部分说明评价任务的预算费用和支付方式。 4.3.11管理部门责任

评价任务大纲要写明管理部门在绩效评价中的责任,包括管理部门要提供相关项目文档,为评价小组提供必要的协调,参与绩效评价实施过程中的某些活动,如实地调研、座谈会和讨论,对绩效评价进行质量控制等。

由于评价任务大纲对绩效评价的成功实施至关重要,因此在公布最终评价任务大纲之前,管理部门要对其质量进行检查(见专栏 4-1)。

专栏 4-1高质量评价任务大纲的核查问题清单         为什么要开展此项评价? 评价涉及了哪些利益相关者? 所提出的评价问题是否明确?是否所有问题都能被回答? 评价任务大纲是否提出了关于评价方法或评价程序的硬性要求?这些要求是否合理? 是否有足够的资源和时间来完成评价任务? 在评价实施过程中,管理部门和其他利益相关者将为评价小组提供哪些必要支持? 管理部门对于评价报告的要求是否清晰? 评价小组能否根据评价任务大纲深化评价设计和实施评价任务? 评价任务大纲格式见附件1。

14

5 绩效评价设计

仅仅有高质量的评价任务大纲还不能保证绩效评价的成功实施。因为评价任务大纲由评价管理者负责设计,主要对绩效评价的关键要素进行说明,是绩效评价实施的纲领性文件。但是,绩效评价任务由评价小组负责具体实施,这就要求评价小组要在对评价任务理解的基础上,将评价任务大纲转化为可操作的实施方案,这才能保证绩效评价的成功实施。因此,绩效评价的设计要基于评价任务大纲,并主要满足评价任务大纲的要求。绩效评价设计的主要产出就是绩效评价框架和《绩效评价实施方案》。绩效评价设计流程见图 5-1。在绩效评价设计的每个步骤中,评价小组都要与管理部门进行沟通。

图 5-1 绩效评价设计流程

前期准备    开发绩效评价框架    完成评价实施方案     熟悉项目文件 与管理部门沟通 理解评价任务大纲内容 完成项目基础信息表 开发评价指标 选择证据收集方法 形成绩效评价框架 评价任务分解 评价小组分工 实施时间安排 设计面访、座谈会、实地调研问题清单、调查问卷等 形成评价实施方案  

5.1前期准备

前期准备包括尽量收集并熟悉现有的项目文件,与管理部门(或委托方)进行沟通,了解他们的意图并理解评价任务大纲的内容。前期准备要查阅的项目文件包括项目立项文件、项目实施计划、项目进展报告、项目中期检查报告、项目完工报告、项目工作总结等。前期准备要形成绩效评价过程文件之一《项目基础信息表》(见表 5-1)。

15

表 5-1 项目基础信息表

一、项目概况 项目名称 项目类型 投资金额 其中:财政 省级财政 地方配套 实施周期 实施地点 项目发展目标 项目组成 项目实施单位 二、项目背景 重点从以下几方面描述项目的背景,但不限于这几点,注意提取关键数据和事实: - 项目的提出针对国家社会经济发展的哪些特定需求?(例如:与相关战略、或其他重大项目的关系等) - 项目的提出针对所在行业的哪些关键问题?(例如:解决空白问题、瓶颈问题、还是在现有条件下改进提高) - 确定项目的具体内容以及选择项目实施地点的理由,或有哪些考虑?(例如:该地区最 贫困,或具备实施条件,或估计影响较大等) 三、项目目标和活动内容 分别简述每一个项目组成部分的目标、投入、产出和实施地点。 按项目完工报告中实施周期填写 按XX省XX市XX县的格式填写 按项目立项文件中的目标填写,若项目目标经过调整且经过财政部门同意,还应填写调整后的目标 按项目立项文件中的项目组成简要填写 根据项目预算管理办法对项目的分类填写 金额以人民币为单位 5.2开发绩效评价框架

绩效评价框架是开展绩效评价的核心。绩效评价框架包括评价准则、关键评价问题、评价指标、证据、证据来源、证据收集方法等(见表 5-2)。

16

表 5-2 绩效评价框架结构

评价准则 相关性   关键评价问题 评价指标         证据         证据来源 证据收集方法                 效率   效果   可持续性  

绩效评价框架中的术语解释如下:

评价准则:即第2章第2.3节提到的相关性、效率、效果和可持续性4个评价准则。

关键评价问题:用来将绩效评价聚焦于若干有限的关键方面,进而分析和评判准则的工具,一个评价准则下可以有多个关键问题。

评价指标:定量或定性的因素或变量,是用来衡量成果、反映变化的手段;这里,评价指标是用来回答关键问题的一种工具,一个关键问题下可能有多个评价指标。

证据:用来对评价指标进行评判的各种信息,包括项目数据、事实、利益相关者观点等。

证据来源:说明证据的出处,以便评价人员能够收集到所要的证据。 证据收集方法:绩效评价中用于收集各种证据的手段,如案卷研究、实地调研、面访、问卷调查等。

本《指南》的宗旨是既要为评价人员提供操作性的指导,又要发挥评价人员的积极性和专业技能,根据不同项目特点开发合适的评价框架。基于这种考虑,《指南》根据4个评价准则设计出12个关键评价问题。这12个关键评价问题是每个项目绩效评价的共性问题,而评价指标留待评价人员根据不同项目具体开发。这样,统一的关键评价问题保证了不同评价都涉及了共同的关键绩效内容,而个性的评价指标则体现了不同项目的特点。

如果管理部门还提出了其他的关键评价问题,评价小组可以根据问题的性质

17

归入评价准则当中;如果不能归入,可以放在评价报告第4章需要说明的事项中进行说明。

以下按照图 5-2的流程一步一步介绍如何开发绩效评价框架。

图 5-2 设计阶段绩效评价框架开发流程

前期 准备 理解关键评价问题 设计评 价指标 明确证据及来源 选择证据收集方法 5.2.1关键评价问题

本《指南》针对每个评价准则共设计出12个关键评价问题,具体如下:

相关性

相关性包括2个关键评价问题:

问题1.1:在评价之时,项目是否符合的发展规划、优先发展重点? 问题1.2:项目是否针对某一实际问题和需求?

问题1.1是评价项目的相关性。即项目与当前国家、行业发展战略、优先重点的相符程度。

问题1.2是评价项目与面临的问题和需求的相关性。它考察两方面内容。首先,在设计之时项目活动是否针对当时的实际问题。比如某农业发展项目,当时当地农业发展面临的主要问题是农业用水严重缺乏(水源性缺水)需要引水灌溉,那么要评价这个项目设计的活动(比如建设水渠和水库)是否针对了上述问题。其次,在进行绩效评价之时,项目完工后提供的产出是否能够满足当前的需求。仍然以上述项目为例,如果当地农业灌溉问题已经由水源性缺水变成水质性缺水(即引过来的水严重污染而无法用于灌溉),那么项目建设的水渠和水库仍然无法满足当地农业用水需求。这说明项目与当前当地的问题相关性不强。

效率

效率包括4个关键评价问题:

问题2.1:项目是否按照计划的资金预算实施? 问题2.2:项目是否按照计划的时间周期实施并完工? 问题2.3:项目是否实现了所有的预期产出?

问题2.4:项目完工后是否达到预期的经济内部收益率?

18

问题2.1是评价项目的资金使用情况。它考察项目资金是否按照预算使用,使用是否节约。对于完工项目,实际投入以项目完工报告中的为准;对于正在实施的项目,实际投入以项目年度进展报告中的为准。

问题2.2是评价项目实施的时间效率。它考察两方面内容,一是项目是否按预期的开工时间开工,二是项目是否在计划的时间周期内完工。项目的预计开工时间和预计实施周期以项目评估文件/设计文件或项目实施计划中的时间为准,实际时间以项目完工报告中的为准。

问题2.3评价项目产出的实现情况。一般项目会分成若干个组成部分,每个组成部分包括一些具体活动。通过实施这些活动,才能保证项目实现预期产出(如产品、服务、设施等),而通过产出的使用,实现预期目标。这里要评价项目是否按质按量实现了所有预期产出。

问题2.4考察项目的经济内部收益率。该问题并非对所有项目都适用。如果项目评估文件或项目完工报告中写明经济内部收益率对该项目不适用,那么绩效评价就不对其进行评价。

效果

效果包括2个关键评价问题: 问题3.1:项目是否实现了预期目标?

问题3.2:项目的实际受益者是否是项目的目标受益群体?

问题3.1是评价效果最核心的内容。如果项目目标经过修改并且获得财政部门的批准,则应采用修改后的目标。

问题3.2是评价项目瞄准度问题,只有项目的实际受益群体是项目计划的目标受益群体,项目的效果才能充分体现出来,也才能说项目实施是成功的。

可持续性

可持续性包括4个关键评价问题:

问题4.1:项目的管理和/或运行机构的设置、人力资源、技术能否满足项目

持续运行的需要?

问题4.2:项目的产出能否得到持续地提供、维护和利用? 问题4.3:项目运行所依赖的、制度能否得到持续地实施? 问题4.4:项目财务是否可持续?

19

问题4.1考察的是项目完工后,项目的管理机构和/或运行机构能否保证项目的持续运行。

问题4.2中的产出是指通过项目实施获得的基础设施、设备、教室、医院等实物产出,以及培训、服务、技术支持等软产出。这个问题考察的是项目产出能否持续地提供、维护和利用,以保障项目持续发挥作用。

问题4.3是考察制度或对项目持续性的保障程度,比如用水制度对水资源保护和利用项目十分重要,如果用水制度没有得到持续地执行,那么项目的效果也就无法持续。

问题4.4是考察项目投入运行后的收支情况或经费保障情况。

上述12个关键评价问题是针对一个完工项目而设计的;而对于正在实施的项目有些问题不适用。当然,对正在实施项目的评价,评价小组也可以对其中一些问题进行预测性回答,并说明预测的理由,以提醒管理者注意,采取必要措施保证项目的成功实施。表 5-3列出了所有关键评价问题,并说明其适用的项目类型。

表 5-3关键评价问题的适用性

关键评价问题 相关性 1.1在评价之时,项目是否符合的发展规划、优先发展重点? 1.2项目是否针对某一实际问题和需求? 效率 2.1项目是否按照计划的资金预算实施? 2.2项目是否按照计划的时间周期实施并完工? 2.3项目是否实现了所有的预期产出? 2.4项目完工后是否达到预期的经济内部收益率? 效果 3.1项目是否实现了预期目标? 3.2项目的实际受益者是否项目的目标受益群体? 可持续性 4.1项目的管理和/或运行机构的设置、人力资源、技术能否满足项目持续运行的需要? 4.2项目的产出能否得到持续地提供、维护和利用? 4.3项目运行所依赖的、制度能否得到持续地实施? 4.4项目财务是否可持续? 适用的项目 完工 正在实 项目 施项目 √ √ √ √ √ √ √ ** √ √ √ √ √ √ √ * * * * * * * * 注:带“√”的问题对完工项目和正在实施的项目都适合,带“*”的问题表示对于正在实施的项目可以通过现有的事实和利益相关者的观点进行预测评价,带“**”的问题表示如果项目设计之时对经济内部收益率没有计算,则对该项目不适用。

20

5.2.2开发评价指标

评价指标是针对关键评价问题而开发的,评价指标是回答关键评价问题的工具。二者的关系如下:(1)有的关键评价问题包含了多项评价内容,需要用不同的指标加以区分,所以有的关键评价问题会包含若干个评价指标;(2)通过指标收集回答关键评价问题的相关证据,避免收集过多的无关证据;(3)通过指标可以体现具体项目的特点;(4)通过指标能够直观地对关键评价问题进行分析,从而得出关键评价问题的评价结果。

评价指标的开发至关重要,它影响到其后证据及其来源的确定、证据收集方法的选择和评价分析等活动。专栏 5-1列出了评价指标开发要遵循的原则。如果评价指标没有满足这些原则,将会影响到绩效评价的质量,进而评价结果的应用也将大打折扣。

专栏 5-1 开发评价指标的原则 开发评价指标的SMART原则:      具体的(Specific):指标定义清晰,不产生歧义; 可衡量的(Measurable):有确定的评价基准对其进行衡量和分析; 可实现的(Achievable):在现实条件下可以收集到相关证据; 相关的(Relevant):指标与对应的关键评价问题要相关,能够为管理提供有用的信息; 时限的(Time-bound):具有确定的时间范围。

下面以辽宁城市交通项目(见专栏5-2)为例介绍评价指标的开发。3 专栏 5-2 辽宁城市交通项目简介 辽宁城市交通项目的发展目标是提高城市交通系统的生产力,促进辽宁省沈阳市、抚顺市和鞍山市的经济和社会发展。具体目标包括:(1)通过扩展高等级道路设施、改善次干道和铁路交叉口、打通断头路和道路拓宽,来改善道路基础设施瓶颈路段;(2)通过建设公交走廊和乘客设施、引进先进公交维护设备,提高公交服务的效率和效果;(3)通过开发先进的、可持续的路面管理系统,改进道路维修养护的投资状况;(4)通过制定机动车尾气排放控制策略(MVECS),持续改善项目的投资环境;(5)通过交通示范项目的渠化、修建非机动车设施、设置信号和其他交通管理措施,改善道路系统的运营效率和安全性;(6)通过考察、技术援助和有针对性的培训,加强城市交通系统管理能力。 3

在本征求意见稿中使用的案例,将随着研究和试点评价的深入开展而进行完善。考虑到《指南》的权威性和指导性,最终的《指南》可能会对案例进行修改,甚至采用新的更加完善和适合的案例。此处仅仅为开发评价指标提供示例。

21

项目从1999年12月28日开始生效,于2005年12月31日结束。项目总投入33795万美元,其中世行实际贷款金额14760万美元。项目包括4个分项目(component):沈阳分项目、抚顺分项目、鞍山分项目和技术援助(TA)分项目。沈阳、抚顺、鞍山分项目都包含公共交通、交通管理、道路基础设计和道路养护4个分子项目(subcomponent)。具体资金使用如下表所示。 项目实际使用经费统计表 单位:百万美元 分项 公共交通 交通管理 道路基础设施 道路维修养护 技术援助 先征费 合计 沈阳 2.31 18.03 33.21 49.63 1.57 0.65 105.40 鞍山 8.00 5.51 97.92 24.06 1.17 0.45 137.11 抚顺 1.98 5.97 .12 21.72 1.25 0.40 95.44 小计 12.29 29.51 195.25 95.41 3.99 1.50 337.95 注:截止到2005年12月的项目经费实际使用情况 数据来源:项目完工报告 相关性

开发相关性的评价指标之前,要检查项目目标是否经过修改,修改后的目标是否得到批准。如果项目目标经过修改且获得批准,那么应以修改后的项目目标来开发评价指标。

表 5-4 相关性评价指标开发-以辽宁城市交通项目为例

准则 关键评价问题 1.1在评价之时,项目是否符合发展或优先发展重点? 相关性 1.2项目是否针对当地的实际问题和需求? 项目与当时项目市城市交通发展问题的针对程度 项目对当前项目市城市交通发展需求的满足程度 评价指标 项目与当前城市交通发展的相符程度 效率

针对效率的4个关键评价问题,评价小组首先要明确项目的计划和实际的实施周期、项目的资金预算及使用情况、项目预期要开展的和实际开展的活动、项目的预期和实际产出、项目是否测算其经济内部收益率、如有预期值是多少。然后基于这些内容开发评价指标。

22

对于问题2.3要尽量使用项目评估文件或设计文件中的产出目标,如果评价小组认为项目设计的产出目标存在重大缺陷,无法对产出进行客观地衡量,可以设计新的产出目标,但要与管理部门、项目单位协商,并考虑证据收集的难度和成本。同时,要在评价报告第4章需要说明的事项中加以说明。

表 5-5 效率评价指标开发-以辽宁城市交通项目为例

准则 关键评价问题 评价指标 2.1项目是否按照计划的资金预算实施? 项目资金使用与预算的一致性 2.2项目是否按照计划的时间周期实施并完工? 2.3项目是否实现了所有的预期产出? 效率 项目公共交通部分产出的实现程度 项目交通管理部分产出的实现程度 项目道路基础设施部分产出的实现程度 项目道路维修养护部分产出的实现程度 项目技术援助部分产出的实现程度 2.4项目完工后是否达到预期的经济内部收益率? 项目经济内部收益率(EIRR)的实现程度 项目预期和实际的实施周期相符程度 注:该项目包括公共交通、交通管理、道路基础设施、道路维修养护和技术援助5项活动,因此,针对这5方面内容设置产出指标。

效果

开发效果评价指标之前,要明确项目目标和目标受益群体是谁。对于问题3.1要尽量使用项目评估文件或项目设计文件中的效果目标。如果评价小组认为项目设计的效果目标存在重大缺陷,无法对目标实现程度进行客观地衡量,可以设计新的效果目标,但要与管理部门、项目单位协商,并考虑证据收集的难度和成本。同时,要在评价报告第4章需要说明的事项中加以说明。

本项目效果目标分为若干个具体目标(Specific Objectives),并且每个具体目标都设有评价指标,那么可以将问题3.1按具体目标分解成若干个子问题,然后根据子问题设计效果评价指标。

23

表 5-6效果评价指标开发-以辽宁城市交通项目为例

准则 关键评价问题 3.1项目是否实现了预期目标? 3.1.1项目是否实现减少基础设施瓶颈路段的目标? 3.1.2项目是否实现改进道路维修养护路面状况 维修养护预算 交通走廊出行时间 评价指标 投资状况的目标? 维修养护平均费用 3.1.3项目是否实现持续改善项目的投资环境的目标? 3.1.4项目是否实现提高道路系统的运效果 营效率和运营安全的目标? 3.1.5项目是否实现提高公交服务的效大气质量标准 机动车尾气排放控制战略的制定 机动车尾气排放控制战略的采用和实施 对通过交通屏蔽线的各种交通模式的交通流量、出行时间和占有率进行调查以衡量系统的运营能力 与行人和自行车有关的事故总数、总死亡人数及百分比 年度补贴 年均单位里程的运营费用 率和效果的目标? 每年客运量 可运营的公交数量 营运线路数量 3.1.6项目是否实现加强城市交通系统管理能力的目标? 3.2项目的实际受益群体是否是项目的目标受益群体?

当地能力的加强和决策的改善 目标受益群体覆盖率 可持续性

对于问题4.1,评价小组要明确项目完工后的管理机构和/或运行机构有哪些,它们的机构设置是否合理,人力资源是否充足、是否具备必需的管理和技术能力等。对于问题4.2,评价小组要分析项目的哪些产出对项目持续发挥成效是关键的,比如对于高速公路项目,高速公路的维护和利用是保证项目发挥效益的关键;对于扶贫项目,对贫困人口进行持续地生产和劳动技能培训是项目实现扶贫效果的关键。对于问题4.3,评价小组要明确项目制定的以及国家、行业

24

和当地相关的有哪些,这些对项目持续运行发挥什么作用,如果没有这些,项目能否持续下去。对于问题4.4,评价小组要考虑机构获得的经费等能否满足项目运行的各项成本支出。表 5-7介绍可持续性的关键评价问题的指标开发。

表 5-7可持续性评价指标开发-以辽宁城市交通项目为例

准则 关键评价问题 4.1项目的管理和/或运行机构的设置、人力资源、技术能否满足项目持续运行的需要? 评价指标 项目市市政道路养护处的人力资源和技术对道路持续养护的满足程度 项目市交管部门的人力资源和管理对持续开展交通管理的满足程度 可持续性 4.2项目的产出能否得到持续地提供、维护和利用? 道路基础设施的持续利用程度 道路基础设施维护的持续性 交通管理的持续性 4.3项目运行所依赖的、制度能否得到持续地实施? 4.4项目财务是否可持续? 项目所依赖的优先发展公共交通的持续性 项目收支情况 5.2.3证据及其来源

证据是用来测量评价指标、回答关键问题、支持评价结论等的数据、事实和观点。在开发评价指标时就要考虑证据及其来源。评价小组要尽量收集高质量的证据。高质量的证据具备以下特点:

相关性:所收集的证据要与指标相关、并且是最重要的信息,比如要测

量贫困地区适龄女童的小学入学情况,那么就要收集女童而不是男童的入学率数据。

有效性:所收集的证据要能真实反映指标内容,比如要测量某个省的贫

困地区适龄女童的小学入学情况,那么要收集全省的适龄女童入学率数据,而不是县级的数据。

可靠性:测量相同指标的证据可以通过相同方法进行收集并验证,比如

适龄女童入学率数据每年都可以通过“某地区适龄女童入学人数/某地区适龄女童人数*100%”来获得。

25

准确性:所收集的证据要准确,特别是对于收集的利益相关者观点要注

意其代表性,比如对于“社区环境是否改善”这一问题,有8名居民认为环境得到改善,而只有2名居民认为环境没有改善,那么要采用8名居民的观点。

绩效评价证据来源主要有以下3类,见专栏 5-3。 专栏 5-3 绩效评价证据来源 第一类:制度、和法规    国家相关法律、法规、规章; 国家发展规划和相关部门行业发展规划及,地方制定的发展规划和; 贷款方的有关制度规定。 项目文件和报告,主要包括:立项评估报告、项目进展报告、完工报告等; 国家发展改革部门的项目立项批复报告; 项目单位的项目执行文件和报告,主要包括:项目可行性研究报告、环境影响评价报告,项目执行过程中的有关财务会计资料、工作总结、监测报告、项目进度报告、项目竣工验收报告等; 第二类:项目文件和相关报告      财政、审计部门对项目执行情况的专项检查报告、专项审计报告; 研究机构或咨询机构提供的与项目相关的研究资料、分析报告和咨询报告等。 相关利益者座谈会; 对相关人员的面访; 实地调研; 问卷调查; 评价小组采用其他方法收集的数据。 第三类:评价小组直接收集      5.2.4证据收集方法

证据收集方法是用以收集所需证据的方法和技术。证据收集方法有很多种,如案卷研究、面访、座谈会、问卷调查、实地调研、案例研究等。大多数绩效评价都可能使用其中一种或多种。表 5-8列出了不同证据收集方法的优点和缺点,评价人员可以根据现实情况选择适合的方法。选择证据收集方法还要考虑评价的经费预算、人力资源和时间等因素。

26

表 5-8 证据收集方法的优缺点

方法 案卷研究 优点 成本低,并且能从现有资料中获得大量有用证据 面访 成本较低且较容易实施,能够收集有用且丰富的信息,特别是利益相关者的观点、建议、以及解释项目成功或失败的原因 座谈会 成本较高,能够收集更多不同相关利益者的观点、判断、以及解释项目成功或失败的原因 座谈会上可能会收集到许多绩效评价无关的信息,有时座谈会参与人可能更多地谈论他关注的问题而非评价小组关注的问题,同时参与人的主观偏见也会影响证据的客观性 问卷调查 提供大量结构化的证据,覆盖面广 成本高,有时问卷回收时间过长给后续分析带来困难 实地调研 能够获得详细的证据,在项目已有信息缺乏情况下采用能够获得项目的一手证据 案例研究 提供详细和深入的证据 很难获得整体的综合信息 成本高 受访人的主观偏见使证据的客观性受到影响,给评价人员的分析和判断带来困难 缺点 很难对现有资料中的证据进行核实

通过上述步骤将形成一个完整的项目绩效评价框架,用于指导绩效评价工作的开展。

5.3完成绩效评价实施方案

5.3.1面访、座谈会和实地调研问题设计

面访、座谈会和实地调研是收集评价证据的重要方法,绩效评价一般都会采用。为了更好地从面访、座谈会和实地调研中收集到有用的信息,必须设计问题清单。设计问题清单要以绩效评价框架为基础。问题按照其作用可分为4类:(1)用于收集评价指标需要的证据;(2)用于核实案卷研究和其他方法收集的证据;(3)用于收集指标实现或没有实现的原因;(4)用于收集利益相关者的观点。

必须强调的是,这里的问题清单是用来收集相关评价证据,而本《指南》的12个关键评价问题是用来评价项目绩效,两者作用不同。开发问题清单应该注意:(1)问题要有针对性,避免设计过多无关的问题;(2)问题要精炼、清晰,

27

避免产生歧义;(3)问题涵盖的内容要单一,不要将不同内容放在同一个问题中;(4)要预先估计问题是否能够得到回答,如果不能,要改变问题或说明其局限性。

表5-9以辽宁城市交通项目为例,列举其省级座谈会问题清单,并说明每个问题的作用。

表 5-9 辽宁城市交通项目省级座谈会问题清单-部分

序号 1 问题 您认为项目设计的目标,是否适应当时项目市的城市交通发展需求?从当前看,项目的目标是否依然针对当地城市交通面临的问题? 2 3 项目在沈阳、抚顺和鞍山的活动内容都进行了调整,为什么要进行调整? “持续改善项目的投资环境”目标的一个绩效指标是“空气质量”,但这个指标只在项目评估文件中提到,此后没有任何报告提到这个指标,也没有对这个指标进行测量。为什么没有对这个指标进行测量,是数据收集不到,还是认为这个指标不合理,根本就没有进行数据收集? 4 5 项目是否促进了当地交通管理能力的提高?如有,体现在哪些方面? 从项目完工报告(ICR)得知,机动车尾气排放控制战略的制定是由环保局完成的,这是否属实,项目为什么没有参与该战略的制定? 6 7 8 项目贷款能否及时偿还?来源如何,是来自省财政还是市财政? 各项目市公交公司、市政道路维护处的经费来自哪里,能否满足其运行的需要? 当地公交设施、设备的更新维护情况如何? 收集评价指标的证据 收集评价指标的证据 收集评价指标的证据 核实项目文件中的证据 询问观点 询问原因 询问原因 作用 询问利益相关者对项目相关性的观点 注:这里只列出部分问题进行举例。

5.3.2评价任务分解、分工和时间安排

为了保证评价活动的顺利、及时地开展,评价组长还要对每个评价活动做出时间安排,以便对评价实施进展进行控制。评价活动的时间安排还需要跟管理部门、项目单位等协商,以便确定大家都方便的时间。

表5-10给出了评价任务分解模板。

28

表 5-10 绩效评价任务分解模板

序号 评价活动 产出 项目基础信息表 项目绩效评价框架 面访问题清单 座谈会问题清单 负责人 XXX 时间 X月X日-X月X日 1 案卷研究 2 设计绩效评价框架 4 设计面访问题清单 5 设计座谈会问题清单 评价组长 X月X日-X月X日 XXX XXX XXX X月X日-X月X日 X月X日-X月X日 X月X日-X月X日 6 设计实地调研问题清单 实地调研问题清单 3 设计绩效评价实施方案 绩效评价实施方案 7 面访 8 实地调研 9 证据整理 10 评价分析 面访问题记录 实地调研记录 将证据针对指标进行汇总 形成绩效评价分析结果、评价结论、经验教训和建议 11 撰写绩效评价报告初稿 绩效评价报告初稿 12 与利益相关者沟通 评价组长 X月X日-X月X日 XXX XXX XXX XXX X月X日-X月X日 X月X日-X月X日 X月X日-X月X日 X月X日-X月X日 评价组长 X月X日-X月X日 利益相关者的建议和意见汇总 评价组长 X月X日-X月X日 评价组长 X月X日-X月X日 13 完善并形成绩效评价报绩效评价报告终稿 告终稿 注:(1)一项评价活动可能包括不止一次的面访或实地调研,应该列出每次面访或实地调研的负责人和时间;(2)表中所列活动并非一个绩效评价的全部或必须的活动,评价小组应该根据具体任务进行选择或补充,比如开展问卷调查。

5.3.3形成绩效评价实施方案

经过上述的研究和设计后,形成绩效评价实施方案,具体格式见附件2。评价实施方案要包含绩效评价框架。

29

6 绩效评价的实施

本章介绍绩效评价的实施,主要步骤包括证据收集、整理与分析,形成评价结论、经验教训和建议。

6.1证据收集

证据的收集取决于证据来源和收集方法。因为评价的经费、人力和时间是有限的,所以收集证据要聚焦于绩效评价框架中设计的指标,并选择适当的收集方法。证据收集首先要尽量利用现有可用的证据,然后根据需要收集原始的数据(见专栏 6-1)。

专栏 6-1 证据收集的一般规则   尽量使用现有的证据。 如果你要使用现有的证据,那么须要弄清楚: - 证据是如何被收集的, - 如何保证证据的精确性。  如果你必须收集原始证据,那么需要: - 制定证据收集程序并遵照执行, - 确保证据定义的精确, - 正式实施前先进行收集方法的测试, - 验证证据整理和输入的精确性。 下面主要针对案卷研究、面访、座谈会和实地调研等证据收集的常用方法,说明应如何收集证据。 6.1.1案卷研究

案卷研究是从现有的文档资料中寻找证据的过程。这些文档资料包括项目文件、国家和地方的发展和战略、各种相关的研究和咨询报告等。案卷研究收集的证据要汇整成一个表格(见表 6-1)。案卷研究要注意对同一指标在不同项目文件中的证据进行对比核实,如果不同来源的证据存在差异,那么要分析差异的原因,并且在座谈会、面访、实地调研中进行核查,最后决定选择使用哪个来源的证据。

30

表 6-1 案卷研究方法收集证据 – 以辽宁城市交通项目为例

指标 项目与当前中国城市 项目目标 证据 证据来源  项目评估文件(PAD) 交通的相符程度  当前中国城市交通:  《关于优先发展公共交通意见完善公共交通基础设施、优化公共交通运营结构、保障公共交通的道路优先使用权、积极稳妥地推进行业改革、加强组织领导和监督检查;优先发展公共交通,完善城市路网结构和公共交通场站 的通知》(,2005年)  《中华人民共和国国民经济和社会发展第十一个五年规划纲要》(2006年) 注:这里所列证据及其来源仅作为示例,该项目绩效评价过程中继续完善了上述证据。

6.1.2面访

评价小组在开展面访之前要做好以下准备工作:(1)从项目利益相关者中确定面访对象;(2)设计面访问题清单;(3)编写面访日程。 面访对象

面访对象是能够为绩效评价提供切实有用证据的人,一般包括以下几类人 员:(1)项目的管理人员,包括管理部门和项目单位人员;(2)负责项目实施和运行的人员,如卫生项目中的医院院长;(3)项目的真正受益人,如教育项目中受培训的小学教师;(4)参与项目设计、实施等的行业专家。 面访日程

面访日程应包括面访目的、面访问题清单、面访对象应准备的相关资料、面 访时间和地点安排等。评价小组要将面访日程安排提前发给面访对象,以便他们 了解面访的目的、问题内容,并准备相关材料。这样,有助于更加有效地开展面 访、收集高质量的证据。

进行面访要注意以下事项:(1)每次面访时间不宜过长,一般不超过3个小时;(2)评价小组要安排专门人员负责记录,尽量做到将面访对象提供的信息记录下来;(3)面访要严格按照问题清单进行,避免面访对象过多地谈论与绩效评价无关的内容;(4)如果对面访对象陈述的内容有疑问,评价小组要及时提问进行确认。

31

专栏6-2面访记录格式 XX项目面访记录 时间:XX年XX月XX日,上午/下午XX点 地点: 面访对象: 记录整理人: 问题1: 面访对象对问题的回答。 问题2: 面访对象对问题的回答。 问题n: 面访对象对问题的回答。 评价小组认为的其他重要信息 面访结束后应立即进行记录整理,按照面访问题的顺序,汇总成专栏6-2的形式。

无论面访多少人,最后都要形成一个面访人员清单(见表 6-2),并作为最终评价报告的附件。

表 6-2 面访人员清单

序号 1 2 3 姓名 所在单位 职务/职称 面访时间 面访地点 …… 6.1.3座谈会

座谈会是绩效评价中经常使用的证据收集方法。评价小组把有代表性的利益相关者召集起来,围绕座谈会问题清单进行讨论,进而收集绩效评价所需的证据。召开座谈会之前,评价小组要做好以下准备工作:(1)确定座谈会的次数和参会的利益相关者;(2)设计座谈会问题清单,不同座谈会的问题清单可能会不同;(3)设计座谈会的日程安排,包括召开的程序、时间和地点(见专栏 6-3)。

32

专栏 6-3 辽宁城市交通项目省级座谈会日程安排 时间 地点 参与人员 辽宁城市建设改造项目办公室、辽宁省财政厅、沈阳市公交公司、沈阳市交通大队、沈阳市市政道路维护处、沈阳市交通管理委员会、评价小组 座谈会程序: 时间 开会前 代表签到 事项 备注 辽宁省财厅负责组织,包括安排会议地点、通知与会代表并事先发放调研材料。与会代表最好是熟悉项目,或参与项目申请、设计、管理和运行等工作的人员。 3月9 日 沈阳 下午 2:00-5:30 2:00-2:10 辽宁省财政厅介绍与会代表 2:10-2:20 评价小组组长简述项目绩效评价情况和调研目的 2:20-4:20 与会代表根据座谈会问题清单发言 4:20-5:20 评价小组与与会代表就有关问题进行互动讨论 5:20-5:30 评价小组组长总结发言 采用座谈会方法应该注意以下事项:(1)座谈会参与人数不宜太多,6-10人比较合适;(2)要尽量保证参加座谈会的人是最合适的人,他们最好参与过或熟悉项目的设计、实施、运行、管理等,能够为绩效评价提供有用的信息;(3)要有专门的人负责记录,尽量将参会人员提供的信息记录下来;(4)座谈会要按照问题清单进行,避免参会人员过多地谈论与绩效评价无关的内容;(5)如果对与会人员陈述的内容有疑问,评价小组要及时提问进行确认;(6)参会人员要进行签到。

对于座谈会收集的证据还要注意提供证据的人数比例,即要注意座谈会参与者对问题答案是否达成共识。如果没有达成共识,则应该把每个参与者对问题的回答都记录下来,而采用这类证据时也要谨慎,否则将影响评价的客观性。比如对“项目的目标群体是否公平地享有项目提供的产品和/或服务”这一问题的回答,如果只有一两个参与者回答“是”,而评价人员采用了这个证据,那将严重影响评价的质量。如果评价人员要采用没有共识的证据,则要在评价报告中加以说明。

每一次座谈会都要做记录,并且在座谈会结束后立即进行整理。座谈会记录整理要按照座谈会问题清单的顺序,并要说明每个问题的答案是否在座谈会上达

33

成一致意见。座谈会记录格式见专栏 6-4。 专栏 6-4 座谈会记录格式 XX项目座谈会记录 时间:XX年XX月XX日,上午/下午XX点 地点: 记录整理人: 问题1: 与会代表发言整理 问题2: 与会代表发言整理 问题n: 与会代表发言整理 评价小组认为的其他重要信息 附:座谈会名单 序号 1 2 姓名 单位 职务/职称 …… 无论开过多少次座谈会,最后都要形成座谈会参与人员清单(见表 6-3),并作为最终评价报告的附件。

表 6-3 座谈会参与人员清单

序号 姓名 单位 职务/职称 第1次 时间:XX年XX月XX日 地点:XX省XX市XX县 1 2 …… 第XX次 时间:XX年XX月XX日 地点:XX省XX市XX县 1 2 …… 6.1.4实地调研

实地调研是评价小组到项目实施地进行考察、直接收集证据的方法。开展实地调研要遵循以下步骤:(1)选择调研地点,(2)开发调研问题清单,(3)编写调研日程安排,(4)开展实地调研,(5)整理调研记录。

34

调研问题要根据绩效评价框架来设计,主要用于收集案卷研究、面访和座谈会无法收集的证据。开展实地调研要先明确要考察项目的哪些产出和成效,是否要对当地利益相关者进行面访等。实地调研要形成调研记录,并按调研问题顺序整理成专栏6-5的形式。

专栏 6-5 实地调研记录格式 XX项目实地调研记录 时间:XX年XX月XX日,上午/下午XX点 地点: 调研小组: 记录整理人: 问题1: 调研记录 问题2: 调研记录 问题n: 调研记录 评价小组认为的其他重要信息 (以下如有) 面访人员清单 序号 1 2 3 姓名 座谈会人员清单 序号 1 2 3 所在单位 所在单位 职务/职称 职务/职称 时间 …… 姓名 时间 …… 6.2证据整理

并非所有的证据收集以后,都可以直接用于分析,而需要对证据进行整理方可使用。证据整理对于以下2种情形尤为重要:(1)证据的放大,即从个体收集

35

的证据要上升到用于判断整体;(2)用不同的方法从不同来源收集同一个指标的证据。

要针对指标进行证据整理。一般用来分析一个指标的证据可以分为3类。第一类是用于衡量指标的证据,比如衡量指标“项目开工及时性”的计划开工时间和实际开工时间。第二类是分析指标实现或没实现预期值的原因,比如项目没有按计划开工时间开工的原因。第三类是利益相关者的观点,比如利益相关者认为项目计划的开工时间不合理。

证据整理过程包括以下3个步骤:

(1)证据列举:将同一个评价指标从不同来源收集的证据列举出来; (2)证据验证:将不同来源的证据进行交叉验证,剔除那些错误的证据; (3)证据确定:通过证据验证,最终确定用于绩效分析和评价的证据。 最后将证据整理到绩效评价框架中“证据”列中,以便于分析。

6.3分析

分析是指根据整理后的证据和一定的基准衡量指标、回答关键评价问题、以及进行原因解释的过程。 6.3.1分析方法

绩效评价中一般采用3种分析方法,即变化分析、归因分析和贡献分析。 变化分析是绩效评价中最常用的分析方法。它分析指标在项目实施后是否达到预期值(Target)。变化分析通过比较指标的实际变化情况与预期变化得到分析结果,不能体现出变化与项目实施之间的必然关系,也无法分析指标产生变化或没有产生变化的原因。

归因分析是评价观察到的变化有多大比例是由项目实施产生的。它一般通过建立反事实场景(Counterfactual Scenario)来进行分析,即分析如果没有实施该项目,是否还会产生这些变化以及变化的比例。但是,由于产生变化的因素很复杂,实践中进行归因分析往往很难。

贡献分析是分析项目的实施是否是产生变化的原因之一,或者是否对产生变化发挥了促进作用。由于产生某种变化有很多因素,并且也很难评价这种变化有多大比例是由每个因素造成的,这时可以采用贡献分析。

36

6.3.2分析结果

通过上述分析方法,形成分析结果。分析结果有两种表现形式:(1)指标的衡量结果,即指标是否达到;(2)指标达到或没有达到的原因。在此基础上形成对关键评价问题的回答。

6.4 绩效评级

6.4.1评级方法

一般采用打分法,满分为100分。具体做法是:(1)根据不同评价准则、不同评价问题、各评价指标的重要性逐层赋予不同分值;(2)确定每个评价指标的评分标准;(3)具体评价时,对照评分标准,给每个指标进行打分,然后把所有指标的得分值直接加总得到总分。再根据总分的高低,给项目进行评级分等。评级等次根据项目总得分确定为非常成功(90-100分)、成功(80-分)、部分成功(60-79分)、不成功(0-59分)四个等级。每个准则也相应分为“非常满意、满意、部分满意和不满意”四个等级。 6.4.2评分标准

评分标准是对每个指标的得分进行的分级分档,分级分档的依据一般有计划标准、行业标准、历史标准和经验标准等。表6-4为绩效评价表(部分)。

37

表6-4 绩效评价表

准则 关键评价问题 2.1 项目是否按照计划评价指标 项目资金使用与预算的一致证据  项目预算是否进行过调整,调整 评分标准 3分:项目实际投资总额不超过预算的5% 2分:项目实际投资总额超过预算的5%-15%(含) 1分:项目实际投资总额超过预算的15%-25%(含) 0分:项目实际投资总额超过预算的25%以上 3分:实际建设周期不超过计划建设周期 2分:实际建设周期比计划建设周期延迟3个月(含)以内 1分:实际建设周期比计划建设周期延迟3-6个月(含) 0分:实际建设周期比计划建设周期延迟6个月以上 实际得分 的资金预算实施?(3分) 性(3分) 是否经过相关部门的批准  项目实际建设投资总额  项目预算投资总额  项目可研报告建设周期  实际建设周期  项目验收情况 2.2项目是否按照计划的时间周期实施并完工?(3分) 项目预期和实际的实施周期相符程度(3分) 2.3项目是否实现了所有的预期产出? (12分) 项目公共交通部分产出的实 审批部门批复的项目建设目标  项目建设目标的实际完成情况 现程度(3分) 项目交通管理部分产出的实现程度(3分)  审批部门批复的项目建设目标  项目建设目标的实际完成情况 效率 (20分) 项目道路基础设施部分产出的实现程度 (3分) 项目道路维修养护部分产出的实现程度 (2分) 项目技术援助部分产出的实现程度(1分) 2.4项目完工后是否达到预期的经济内部收益率?(2分)

 审批部门批复的项目建设目标  项目建设目标的实际完成情况  审批部门批复的项目建设目标  项目建设目标的实际完成情况  审批部门批复的项目建设目标  项目建设目标的实际完成情况 3分:完成85%(含)以上的目标 2分:完成70%(含)-85%的目标 1分:完成50%(含)-70%的目标 0分:完成50%以下的目标 3分:完成85%(含)以上的目标 2分:完成70%(含)-85%的目标 1分:完成50%(含)-70%的目标 0分:完成50%以下的目标 3分:完成85%(含)以上的目标 2分:完成70%(含)-85%的目标 1分:完成50%(含)-70%的目标 0分:完成50%以下的目标 2分:完成85%(含)以上的目标 1分:完成50%(含)-85%的目标 0分:完成50%以下的目标 1分:全部完成 0分:未全部完成 2分:财务内部收益率或税后利润达到预期的80%(含)以上 1分:财务内部收益率或税后利润达到预期的80%以下 0分:项目亏损 项目经济内部收益率(EIRR) 项目实际财务内部收益率(FIRR)  项目实际税后利润  可研报告测算的财务内部 的实现程度(2分) 收益率(FIRR)  可研报告测算的税后利润 38

6.4.3绩效评价注意事项

因为各个准则之间存在着逻辑上的关联性,如果各个准则的评级差异很大,那就要重新考察准则的评级和综合评级,以确保逻辑的一致性。比如,如果项目的效果评级很低,但可持续性评级很高,这是不正常的;如果项目的可持续性存在疑问或者项目的相关性很弱,但总体评级却是“非常成功”,这种情况也是不正常的。

6.5形成评价结论、经验教训和建议

6.5.1评价结论

评价结论包括项目综合绩效的总体评判和4个评价准则的评判结果。形成评价结论一定要有充足的证据支撑。

专栏 6-6 评价结论举例-河北公路发展项目绩效评价 总体而言,项目被评为“非常成功”。项目与发展需求、发展战略的相关性高。项目取得了预期产出并实现了预期成效。项目投资是经济有效的,并且项目具有良好的可持续性。项目产生了重大的积极的社会经济影响。项目预计有14个县(其中包括9个国家级贫困县)能直接从项目获益,而实际上有11个县直接从项目建成的公路设施中获益,其中7个是国家级贫困县。 6.5.2经验教训

经验教训是指通过绩效评价总结出来的可能有助于开展其他相似项目的信息。通常,经验教训描述项目准备、设计和实施的优缺点,及其对项目绩效的影响。提出的经验教训要限于被评项目,有切实的证据支撑,并指出哪些方面是有参考价值的。

专栏 6-7经验教训举例-河北公路发展项目绩效评价 项目组成既包括商业可行的内容,又包括减贫内容,这使项目实施变得复杂。项目中的减贫内容,如果单独作为一个项目实施可能会更有效果,即一个包含农村道路及其与高速公路连接线的项目。但是,的要求项目应该能够提供服务并偿还贷款。这了将减贫内容单独作为一个项目进行实施。 6.5.3建议

建议是旨在提高项目绩效、对项目进行重新设计和分配资源的各种提议。建

39

议要与评价结论和经验教训联系起来。要具体阐明建议是针对谁提的,应该在什么时候实施,但是最重要的是要阐明为什么提出这些建议。 专栏 6-8 建议举例-河北公路发展项目绩效评价 1. 管理部门应确保高速公路的所有入口处都装有动态称重器,并保证称重器24小时运行。目前只有2台动态称重器。这必须尽快解决。责任人河北省京沪高速公路管理处,完成时间2008年底。 2. 高速公路应该提供更多的存储和泊车区,以便超载车辆进行卸载。应该每8个收费站就要建立这样的区域。责任人河北省京沪高速公路管理处,完成时间2007年中。 40

7 评价结果的报告

评价结果是上述所有活动的最终产物。如果没有对评价结果进行高质量的总结和撰写,并呈报给有关用户,那么这些工作都等于无用功。本章将详细介绍如何撰写绩效评价报告。撰写绩效评价报告的一般要点见专栏 7-1。 专栏 7-1 撰写绩效评价报告的要点            语言要简洁。 第一次使用缩略语应写明全称。 数据用阿拉伯数字表达。 对评价方法的描述要足够详细,以便别人能够判断其可信性。 将技术信息放在附件里。 要阐明评价的局限性,提醒读者要审慎对待报告中的解释说明。 围绕主题和关键评价问题来组织报告。 把主要观点放在前面,每一段前面要有主题句。 用证据来支撑结论和建议。 留出一定的时间对报告进行修改。 找一位冷静而细心的读者,他最好是特别注意报告细节的人,能够仔细阅读报告,确保不出现错别字和歧义用词。 如果可能,找一位熟悉你的绩效评价过程的同事,让他阅读你的最终评价报告——我们称之为“同行评议”——以便你更好地完善评价报告。

 因为报告的使用者往往没有时间和耐心阅读完厚厚的一本评价报告,因此,评价小组要编写一个绩效评价执行摘要,以便他们迅速了解评价报告的内容。所以,本《指南》要求绩效评价报告要包括执行摘要和主体报告两部分。

此外,评价报告形成初稿后,评价小组要与各利益相关者(特别是管理部门和项目单位)进行沟通,听取他们的意见和建议。之后,评价小组在考虑他们的意见和建议基础上形成评价报告终稿。利益相关者的意见和建议应该作为最终评价报告的附件。绩效评价报告编写流程(见图7-1)。

41

图 7-1绩效评价报告编写流程

编写主体报告初稿 编写执行摘要初稿 编写报告附件初稿 形成评价报告初稿 与利益相关者沟通 修改形成报告终稿

7.1执行摘要的编写

执行摘要应该简明,2-3页为宜,一般不超过4页。执行摘要可以分节描写,也可以不分节描写。下面介绍执行摘要的基本内容。 7.1.1概述

第一段描述项目的背景、目标、投资额、活动内容和实施情况等,第二段描述绩效评价的目的、主要实施过程等。 7.1.2评价结论和绩效分析

先描述项目总体评价结论,然后按4个评价准则顺序分别进行绩效分析。可以在每个绩效分析后写明其在主体报告或附件的位置,以便读者迅速找到相关详细内容。

7.1.3经验教训和建议总结

用编号的形式将每条经验教训、建议列出来。要描述支持经验教训和建议的关键证据。

7.2主体报告

主体报告应分章节进行编写,一般包括以下8个部分:项目关键信息、绩效评价等级、引言、绩效评价概述、绩效评价主要发现、其他需要说明的事项、绩效分析、经验总结与建议。下面具体介绍每一部分的编写。 7.2.1项目关键信息

以表格形式描述项目的关键数据,以便读者迅速了解项目的基本情况。项目关键数据应来自于项目文件。具体见表 7-1。这部分应放在报告的最前面。

42

表 7-1 项目关键信息

项目名称 项目投资总额 财政 省级财政 市县财政 其他 项目预评估时间 贷款合同签订时间(如有) 项目实际生效时间 项目实际开工时间 项目实际完工时间 项目实际关账时间 项目目标 项目实施地点 项目活动(组成) 项目管理部门 项目实施和运行机构 7.2.2绩效评价等级

以表格形式描述项目绩效评价等级,包括4个评价准则的评价等级和项目综合评价等级,以便读者迅速了解项目的评价结果,见表7-2。

表 7-2 XX项目绩效评价等级表

评价准则 相关性 效率 效果 可持续性 综合绩效 分值 20 20 40 20 100 实际得分 20 15 30 18 83 绩效等级 高度相关 效率高 满意(有效) 高度可持续(很可能) 成功 注:本案例中的绩效等级和实际得分均为虚拟的。

7.2.3引言

引言是主体报告的第一章。引言的描写要具有吸引力,要能引起读者阅读整个报告的兴趣,引言中应该包含以下几个方面内容:

43

项目描述,包括项目背景、目标、活动、实施情况 绩效评价的目的

7.2.4绩效评价概述

绩效评价概述是主体报告的第二章。它使读者对绩效评价的设计和实施有清晰的了解。读者能够从绩效评价概述中判断绩效评价本身的质量,从而判断评价主要发现、结论、经验总结和建议的可信度。绩效评价概述应该包含以下几方面内容:

 

绩效评价设计过程 绩效评价框架 证据收集方法 绩效评价实施过程 评价的局限性

 

这里只对上述方面进行简要描述,而详细的技术文件则放在附件中(见本章第7.3节附件的编写)。需要强调的是,评价小组要对评价的局限性进行客观描述,以帮助读者对评价结论、经验教训、建议的质量进行判断,从而决定如何使用它们。评价的局限性一般包括以下几方面:(1)有的指标没有收集到相关证据或证据不全面、质量不高;(2)评价小组对某些数据的真实性仍有疑虑;(3)由于时间和经费,某些评价方法没有开展,从而影响到证据的收集和评价质量;(4)评价小组认为的其他局限性。 7.2.5项目绩效分析

项目绩效分析是主体报告的第三章。绩效分析应该注意以下几点:

按4个评价准则及其关键问题的顺序分别描述; 要阐述支持绩效分析的证据(包括事实和/或观点); 数据的表达要清晰,用阿拉伯数字形式;

可以使用图、表等来解释你的发现,但图、表要简单易懂,一个图或表最好只表达出一个信息。

 

44

专栏7-2描述了绩效分析中使用图、表的原则。 专栏 7-2 图、表的编制原则      数据不要超过2位有效数字 形式要简单,避免使用复杂的图形或表格 使用图例,以使读者明白图中每一个图案的含义 每个图、表只表达出一个中心信息 在图、表的下面直接标明数据来源 首先在每节的第一段,以证据为基础,结合评级规则给出每个准则的评级。接下来按照关键评价问题的顺序对每个问题进行回答。根据关键评价问题的内容,对每个问题可以单独成段描述,也可以分段描述,但不要把两个或两个以上的关键评价问题在一个段落中进行描述。要描述每个关键评价问题采用了哪些指标,针对这些指标逐个描述指标测量采用了哪些证据、证据来源是什么。此外,还要分析指标没有达到预期目标的原因。绩效分析格式见专栏7-3。 专栏 7-3 绩效分析格式 相关性 在本节的第一段,以证据为基础,结合评级规则给出相关性准则的评价等级。接下来按关键评价问题的顺序对每个问题进行回答,包括采用了哪些指标、证据及其来源、分析结果等。 问题1.1: 问题1.2: 效率 在本节的第一段,以证据为基础,结合评级规则给出效率准则的评价等级。接下来按关键评价问题的顺序对每个问题进行回答,包括采用了哪些指标、证据及其来源、分析结果等。 问题2.1: 问题2.2: 问题2.3: 问题2.4: 效果 在本节的第一段,以证据为基础,结合评级规则给出效果准则的评价等级。接下来按关键评价问题的顺序对每个问题进行回答,包括采用了哪些指标、证据及其来源、分析结果等。 问题3.1: 问题3.2: 可持续性

45

在本节的第一段,以证据为基础,结合评级规则给出可持续性准则的评价等级。接下来按关键评价问题的顺序对每个问题进行回答,包括采用了哪些指标、证据及其来源、分析结果等。 问题4.1: 问题4.2: 问题4.3: 问题4.4:  7.2.6需要说明的事项

其他需要说明的事项是主体报告的第四章。这部分主要描述评价任务大纲和设计方案之外出现的情况、项目已经或可能产生的社会经济环境影响、及其他影响项目绩效的重要事项。评价小组还要描述这些事项对绩效评价主要发现、结论和建议的影响。如果出现以下情况,则必须在本节中加以说明。

其他绩效

当项目产生的绩效超出了绩效评价框架的范围、并且这些绩效对项目很重要,则此时应加以说明,并且要说明这些绩效对项目整体绩效评级的影响。

项目的影响

虽然本《指南》不涉及项目影响的评价,但是如果在绩效评价时,项目

的实施已经对社会、经济、环境、制度等产生了(或预期将会产生)重大影响,可以对项目影响加以说明。这些影响是项目在目标之外产生的作用,包括正面的和负面的影响。对影响的说明要有切实的证据。

项目设计存在的问题

如果项目的设计存在较大问题,比如目标设计过高或过低、项目活动安排不合理、产出指标和即成效指标存在较大缺陷等,应进行描述,并说明这些问题对绩效评价的影响程度。

评价结果的差异

如果本次绩效评价结果与项目完工报告、审计报告、其他评价(如果有)结果有较大差异,则应加以说明,包括在哪些方面存在差异、差异程度多大,差异产生的原因是什么。

46

7.2.7绩效评价结论

绩效评价结论是主体报告的第五章。首先对项目综合绩效等级进行说明,然后对相关性、效率、效果和可持续性的评价结果进行简要综述,用以支持评价结论。

7.2.8经验教训与建议

经验教训与建议是主体报告的第六章。经验教训与建议是为了管理部门改进管理和决策提供参考依据。经验教训和建议要简洁。对于经验教训要分析原因,并指出将来在哪些方面有参考价值。对于建议要具体阐明是针对谁提的,应该在什么时候实施,但是最重要的是要阐明为什么提出这些建议。

7.3附件

附件是对主体报告的补充说明,主要包括一些技术文件和评价过程文件。附件应该包括以下几个文件:评价任务大纲、绩效评价表、调查问卷(如果有)、面访、座谈会和实地调研人员名单、利益相关者对评价报告的反馈意见、评价小组认为必须附上的其他文件。

7.4与利益相关者沟通

绩效评价报告初稿形成之后,要与主要利益相关者进行沟通,特别是管理部门和项目单位。沟通的目的是为了:(1)避免评价小组的重大遗漏,从而影响了对项目绩效的评价;(2)听取他们对绩效评价的意见和建议;(3)促进他们对评价结果的利用,尤其是评价报告提出的建议。利益相关者对评价报告的反馈意见要作为报告的附件。

7.5形成报告终稿

在吸取利益相关者的意见和建议基础上,修改并完善评价报告。要在附件“利益相关者对评价报告的意见和建议”中说明如何处理利益相关者的意见和建议。

首先,要说明各利益相关者提了哪些意见和建议,以供报告使用者参考。其次,要说明评价小组同意了哪些意见和建议,不同意哪些。最后,对于不同意的意见和建议,要说明理由。最终的绩效评价报告格式见附件3。

47

8 评价结果的使用和扩散

8.1评价结果的使用

8.1.1评价结果的用途

绩效评价的价值就在于它的使用。评价结果提供了3个层次的信息:战略、操作和学习

战略层次:是否在做正确的事,包括项目选择和设计是否清晰并符合逻辑,是否针对现实问题?

操作层次:是否在正确地做事,包括在实现预期成效方面是否有效果、资源是否得到优化利用、用户满意度如何?

学习层次:是否有更好的方法来实施项目,包括是否有其他方法、最佳实践、经验教训等。

评价结果的6个实际用途:

帮助资源分配决策。评价信息可以告诉管理者,就效果而言哪些或计划更加成功或不太成功,哪些资源投入更有价值。进一步,评价信息对试点是否要扩大、重新设计或完全取消的决策提供参考。

帮助重新思考问题产生的原因。如果项目并没有对解决现实问题发挥显著的作用,原因之一可能设计或实施存在缺陷,还可能是因为所要解决的问题已经发生了变化。评价信息可以激发对问题进行重新研究。

发现新问题。评价信息能够突出那些还不是普遍的但有关部门必须重视的问题。

支持优选决策。通常会尝试几种方法来解决一个问题。评价信息有助于判断哪种方法更加成功,哪种方法更值得支持或减少支持。

支持公共部门改革和创新。评价信息能够向公众提供改革努力正在发挥作用的证据。例如,学校条件正在得到改善,行为正在减少,或者更多的农村贫困人口接受了卫生保健等,这些证据说明的工作是可信的,如果没有产生积极变化的证据,改革努力通常会失去动力。

在问题原因和如何应对问题方面达成共识。评价信息有助于管理部门和重要的利益相关者讨论问题产生的原因,以及如何采取适当的应对措施。评价信息还

48

可以提供问题产生的因果关系的证据。 8.1.2评价结果使用应注意的事项

管理部门使用绩效评价结果应注意以下事项:

(1)不要过度将评价结果用于项目排名。尽管绩效评价给出了每个项目的

综合绩效等级,但管理部门不要过度将评级结果用来排名,并由此对项目管理机构和运行机构施加压力。

(2)应重点关注评价报告提出的经验教训和建议,这对项目后续管理和实

施最为有用。

(3)即使是对同一领域类似项目的评价结果进行比较也要谨慎,因为不同

项目面临的环境、条件和挑战可能都不一样,这些可能会影响到项目的实施效果。

8.2评价结果的扩散

8.2.1扩散对象

对于财政支出项目,绩效评价报告扩散对象包括监督机构、、政协、项目实施运行机构、项目受益群体及其社会公众。他们对绩效评价获得的信息各有需求,比如有的读者需要评价信息作决策参考,有的想从利用经验教训改进管理。管理部门可以针对不同对象采取不同的扩散形式,以使评价结果尽可能发挥最大的作用。 8.2.2扩散方式

扩散评价结果是评价管理者的职责之一。针对不同对象的需求,评价管理者可以采取以下扩散方式:

     

公开出版绩效评价报告;

向利益相关者就绩效评价结果进行口头汇报; 在座谈会上就绩效评价结果作演讲;

通过电子邮件将绩效评价报告发给各利益相关者; 将绩效评价报告放在互联网上供有兴趣的读者阅读和下载; 将绩效评价报告及相关信息制成光盘并呈送给各利益相关者。

49

9 绩效评价的质量控制

绩效评价的质量控制由管理部门指定的评价管理者负责,绩效评价的质量控制是一项至关重要的工作,它贯穿于绩效评价的全过程。

9.1高质量绩效评价的特点

高质量的绩效评价应该具有6个特点:公正性、有用性、技术适当性、利益相关者参与、反馈与扩散、成本经济。

公正性:评价信息、分析判断、结论和建议不应该含有任何偏见,或被故意地扭曲。评价报告中应该说明评价活动的局限性。

有用性:评价信息必须具有相关性和及时性,并用易于理解的方式书写。它还必须回答管理者所提出的问题,并以管理者易于理解的方式呈报。

方法的适当性:评价必须满足相关的技术标准,即合理的设计、适当的证据收集方法、准确的统计或分析、以及对结论和建议有足够的证据支持。

利益相关者参与:在评价活动中,应该确保与利益相关者进行沟通,并使他们参与进来。

反馈与扩散:用适当的、及时的、有针对性的方式共享信息是有效利用评价的显著特征。

成本经济:花费必要的成本以获取想要的信息。收集没用的昂贵信息是不正确的;同样,在有成本较低的数据收集方法的情况下却使用昂贵的方法也是不合适的。

9.2不同阶段的质量控制

9.2.1设计阶段

绩效评价设计的质量主要体现在以下5个方面:

绩效评价设计是否满足管理部门的需求和评价任务大纲的要求? 《绩效评价实施方案》是否满足本《指南》的要求?

50

绩效评价拟采用的方法是否恰当、可行,是否能收集到所需的证据? 每项评价活动是否有明确的责任人?

评价小组计划投入的人力资源和时间是否能够保证评价活动的开展?

评价管理者要根据上述要求对《绩效评价实施方案》进行检查。如果《绩效评价实施方案》不能满足上述要求,评价管理者应主动与评价小组沟通,使其理解管理部门的需求和评价任务大纲的要求,并要求评价小组在限定的时间内根据《指南》修改设计方案。 9.2.2实施阶段

绩效评价实施的质量要求体现在以下5个方面:

是否开展了《绩效评价实施方案》中确定的全部评价活动,包括案卷研究、面访、座谈会、实地调研等?

是否按照《绩效评价实施方案》中计划的时间开展绩效评价?

评价活动是否按本《指南》要求的规范程序开展,面访记录、座谈会记录、实地调研记录等过程文件是否清晰、完整?

是否根据本《指南》要求对收集的证据进行整理、核实和确定? 是否形成完整的《绩效评价框架》?

评价管理者应该保持与评价小组的联系,了解评价活动的进展,必要时还可以参与评价活动,如参与座谈会、实地调研等。如果评价活动不能满足上述要求,评价管理者应该要求评价小组进行改正。如果有的活动确实无法开展,评价管理者应要求评价小组报告其原因及对评价结果可能的影响,并在评价报告中加以说明。

9.2.3报告阶段

评价报告质量是质量控制的核心。评价报告的质量体现在以下9方面:

报告的格式是否满足《指南》的要求?

报告的语言表达是否明确、易于理解且没有歧义? 报告是否对所有的关键问题都进行了回答? 报告采用的证据是否相关、有效、可靠和准确? 绩效分析是否客观、系统、符合逻辑? 评价结论是否清晰,并有充分的证据支持?

51

总结的经验教训是否清晰明确、有证据支持?

提出的建议是否有针对性,对管理部门改进管理、改善决策是否有帮助? 报告附件是否齐全?

评价管理者要针对上述内容对评价报告初稿进行检查。如果报告初稿没有符合上述要求,评价管理者要向评价小组明确提出,并要求改正。对于评价报告终稿仍存在不足,则要求评价小组解释原因,并在评价局限性中加以说明。

52

附件

附件1《评价任务大纲》格式

XX项目绩效评价任务大纲 1. 评价目的 本项目绩效评价的目的是…… 2. 项目描述 从项目背景、项目目标、项目组成与活动、实施情况等方面进行描述。 3. 评价范围 从时间范围、地域范围和受益群体范围等方面进行描述。 4. 涉及的利益相关者 描述项目涉及的利益相关者,以及他们将在绩效评价中发挥什么作用,提供什么协助。 5. 关键评价问题 根据评价目的和评价准则,列出主要的关键评价问题。 6. 方法 说明主要的证据收集与分析方法。 7. 预期成果 说明预期的成果形式,如评价报告,以及提交时间。 8. 评价小组 说明评价任务所需的知识、技能和经验,建议的评价小组人数。 9. 实施计划 序号 1 2 3 4 5 6 活动描述 签订任务合同 形成评价方案 评价实施 提交报告初稿 评价报告终稿 时间安排 XX年XX月 XX年XX-XX月 评价小组 XX年XX-XX月 评价小组 XX年XX月 XX年XX月 评价小组 负责人 XX管理部门、评价小组 利益相关者反馈 XX年XX月 XX管理部门及其他利益相关者 评价小组 10. 费用与支付 说明用于绩效评价的费用和支付方式。 11. 管理部门的责任 描述管理部门在绩效评价中的责任。

53

附件2《绩效评价实施方案》格式

XX(项目名称)绩效评价实施方案 1. 评价背景和目的 具体写明为什么要开展此项评价,评价结果要如何使用,以及由谁使用。 2. 项目基础信息表 一、项目概况 项目名称 项目类型 投资金额 其中:财政 省级财政 地方配套 实施周期 实施地点 项目发展目标 项目组成 项目单位 二、项目背景 重点从以下几方面描述项目的背景,但不限于这几点,注意提取关键数据和事实: - 项目的提出针对国家社会经济发展的哪些特定需求?(例如:与相关战略、或其他重大项目的关系等) - 项目的提出针对所在行业的哪些关键问题?(例如:解决空白问题、瓶颈问题、还是在现有条件下改进提高) - 确定项目的具体内容以及选择项目实施地区的理由,或有哪些考虑?(例如:该地区最 贫困,或具备实施条件,或估计影响较大等) 三、项目目标和活动内容 分别简述每一个项目组成部分的目标、投入、产出和实施地点。 按项目完工报告中实施周期填写 按项目设计文件中的目标填写,若项目目标经过调整且经过财政部门同意,还应填写调整后的目标 按项目设计文件中的项目组成简要填写

3. 绩效评价框架 评价 关键评价问题 准则 相关性 1.1项目是否符合国家的发展与优先发展重点? 1.2项目提供的产品和/或服务是否能够解决实际问题或需求? 效率 2.1项目是否按照计划的资金预算实施? 2.2项目是否按照计划的时间周期实施并完工? 2.3项目是否实现了所有的预期产出? 2.4项目完工后是否达到预期的经济内部收益率? 效果 3.1项目是否实现了预期目标? 3.2项目的实际受益者是否是项目的目标受益群体? 可持 续性 4.1项目的管理和/或运行机构的设置、人力资源、技术能否满足项目持续运行的需要? 4.2项目的产出能否得到持续地提供、 维护和利用? 4.3项目制定的、制度和/或项目运行所依赖的、制度能否得到持续地实施? 4.4项目财务是否可持续?             证据收集 评价指标  证据 证据来源 方法                                   4. 面访问题清单 5. 座谈会调研问题清单

55

6. 评价任务分解、分工和时间安排 序号 评价活动 产出 项目基础信息表 项目绩效评价框架 面访问题清单 座谈会问题清单 负责人 XXX 时间 X月X日-X月X日 1 案卷研究 2 设计绩效评价框架 4 设计面访问题清单 5 设计座谈会问题清单 评价组长 X月X日-X月X日 XXX XXX XXX X月X日-X月X日 X月X日-X月X日 X月X日-X月X日 6 设计实地调研问题清单 实地调研问题清单 3 设计绩效评价实施方案 绩效评价实施方案 7 面访 8 实地调研 9 证据整理 10 评价分析 面访问题记录 实地调研记录 讲证据针对指标进行汇总 形成绩效评价分析结果、评价结论、经验教训和建议 11 撰写绩效评价报告初稿 绩效评价报告初稿 12 与利益相关者沟通 利益相关者的建议和意见汇总 评价组长 X月X日-X月X日 XXX XXX XXX XXX X月X日-X月X日 X月X日-X月X日 X月X日-X月X日 X月X日-X月X日 评价组长 X月X日-X月X日 评价组长 X月X日-X月X日 评价组长 X月X日-X月X日 13 完善并形成绩效评价报绩效评价报告终稿 告终稿 注:(1)一项评价活动可能包括不止一次的面访或实地调研,应该列出每次面访或实地调研的负责人和时间; (2)表中所列活动并非一个绩效评价的全部或必须的活动,评价小组应该根据具体任务进行选择或补充,比如开展问卷调查。 56

附件3《财政支出项目绩效评价报告》格式

3-1 封面格式 XX(管理部门名称)XX(项目名称) 绩效评价报告 XX年XX月

57

3-2 内封面格式

绩效评价结果

评价准则 相关性 效率 效果 可持续性 综合绩效

评价小组 组长: 成员:

分值 实际得分 绩效等级

58

3-3 目录格式

目录 项目关键信息 执行摘要

  

概述

评价结论和绩效分析 经验教训和建议

1 引言 1.1项目描述 1.2绩效评价目的 2 绩效评价概述 2.1绩效评价设计过程 2.2绩效评价框架 2.3证据收集方法 2.4绩效评价实施过程 2.5绩效评价的局限性 3 项目绩效分析 3.1相关性 3.2效率 3.3效果 3.4可持续性 4 需要说明的事项 5 绩效评价结论 6 经验教训与建议 6.1经验教训 6.2建议 附件:

附件1 评价任务大纲 附件2 绩效评价表

附件3 面访、座谈会和实地调研人员名单 附件4 利益相关者对评价报告的意见和建议 参考资料

59

因篇幅问题不能全部显示,请点此查看更多更全内容

Copyright © 2019- efsc.cn 版权所有 赣ICP备2024042792号-1

违法及侵权请联系:TEL:199 1889 7713 E-MAIL:2724546146@qq.com

本站由北京市万商天勤律师事务所王兴未律师提供法律服务