查看原文
其他

你问我答 | 关于监测评估,也许这里有你想要的答案

悦享新知 悦享新知
2024-08-23

4月,悦享新知将围绕「监测评估」这一话题,制作发布《评估没有那么难》系列内容。


本系列希望能将「监测评估」这件事进行解析:评估有哪些不同类型,每个评估背后的需求是什么,以及应当如何选择匹配需求的评估方式。


“监测评估”其实并不难,我们希望能为大家提供更多维度的参考素材。只要掌握合适的工具和方法,我们都可以做好。


欢迎点击上方「监测评估」标签,订阅话题,第一时间收到相关推送。


公益领域工作,不管是做什么样的岗位,都会被问到项目有效性相关问题。


“你们机构或者你们自己做的项目,它的有效性如何?”可能是大家在这个行业听到的最多的问题。而在实际工作中,因为经验、场景和工作类型的差异,我们每个人对“监测评估”的认知和所衍生出来的具体问题也各不相同。


在跟多个伙伴沟通后,我们在上一期的启发时刻里,将大家遇到的常见问题进行了梳理汇总,并试图一一做了回应。

(视频回看版:扫描二维码,回看完整内容)


图文详解版

我们将收集到的问题从【为什么、怎么做、谁来做】三个层面做了归纳梳理

(如下图所示)


我们将围绕上述问题,更加系统地看看实践角度下的“监测评估”。

*本文共计5800字,预计阅读时间10分钟。

内容涵盖如下要点:

1.为什么做监测评估?

  • 资金使用的问责需要

  • 验证自己在设计项目时的那些假设是否成立

2.怎么做监测评估?

  • 看过程中要监测什么

  • 评估要看什么

  • 如何确定指标

  • 怎么提升项目伙伴的配合度

3.谁来做监测评估?

  • 第三方评估一般服务于特定场景的特定需求

  • 更常态化的是机构自己做监测评估

  • 做好监测评估需要团队具备哪些能力,如何习得


为什么要做监测评估?

让我们从以下两个角度来回答:

  • 第一,从本身的需要来看,即资金使用的问责需要

  • 第二,跟公益项目设计的出发点有关


当我们在拿出一些钱给到一个人或一群人,让他们去做一件事时,我们也会很自然地想要去知道:钱怎么花的?是否花在了刀刃上?取得了什么样的结果?是否跟我们预期匹配?

推己及人,当资方、企业或者个体慈善家在给出资金时,他们同样会产生这类自然的需求。


这也是监测评估产生的一个本源的原因:需要对资金的使用问责(accountablity),即我花了别人的钱,别人有权向我问责,明晰资金的使用情况和结果,而我有责任去回应对方的这种需求。


(注:这里“问责”为中性词,并非我们惯常理解的责难或挑刺儿。而是指拥有清晰的权责关系。)


而随之发展的是越来越多的伙伴变“被问”为主动沟通。他们知道包括理事会、资方和团队在内的关键的利益相关方,会需要这些信息。所以会提前准备好,以更好实现跟利益相关方的有效沟通。


另一方面,我们在设计每一个公益项目之初,都是抱持着最美好的期待,希望我们提供的解决方案能够对服务对象产生价值,即能有效地解决问题或者是回应需求。


但是如果拿掉自己的主观期待,用相对客观理性的态度来看,每个公益项目本质上就是一种假设,这个假设就是——我们认为某种方案是可能有效的方案


可是我们能够保证自己的项目是可以百分百达到预期的么?相信大家都会摇头,或许会说我不敢确定百分百,但是可以肯定的是,我这个项目是有价值的。而在“有价值”和“是不是真正能够达到效果”之间,有一大片的充满不确定和未知的灰色空间。


这个部分就是我们需要在实践中验证的部分。它不能是靠某一个人的主观判断或观察,而是需要一系列的有道理的数据或者依据去进行判断的。那么这个“有道理”是从哪里来的?就来自于监测评估。

延伸阅读——在第8期监测评估分享里,高瑞分享了一个她自己生活中非常生动的例子。她想要让猫吃处方粮,治好结石。设计了几种方案,并一一监测验证哪种方案是有效的。

(喵主子进食中)


除了以上例子外。在商业领域,监测评估其实也非常普遍。有意识地去收集相关数据来确认自己的解决方案是否可行,符合市场需求,并不断去根据反馈来优化调整自己的方案。


所以作为公益组织,除了去回应利益相关方的“问责”外,我们自己也要在这个过程中有意识地通过监测评估,来验证我们可能的解决方案是不是真的有效,并且去有意识地往有效的方向上调整。


怎么做监测评估?

“怎么做监测评估”是个看起来很庞大的题目,但是如果将它从以下几个角度拆解后,监测评估工作会开始变得简单易上手:

  • 过程中要监测什么

  • 评估要看什么

  • 如何确定指标

  • 执行中,如何提升项目伙伴的配合度。


1,过程中的监测


很多伙伴都曾问过我们:做过程监测时,是否有统一标准或框架能参考呢?


我们的回答是:没有一个评估的框架是任何人都会接受、认可,并且在任何场景下都适用的。


为什么会这样呢?


  • 首先,每个项目的场景和服务对象不同,例如做教育和做残障,需要的监测评估框架是很不一样的。而在农村做教育的和在城市流动社区做教育的也会非常不一样,所以很难有一个统一具有普适性的标准。

  • 此外,每个项目做监测评估的原因也不一样。A机构是因为资方问责,希望知道项目成效到底怎么样,而B机构是想要服务过程中项目的优化和改进。原因不同,你要关注的监测评估点也会有所差别。


虽然没有统一的标准,但是你可以参考以下维度去设计自己的监测评估:


  • 时间进度。项目的时间进度表,确认你的时间进度如何。

  • 活动执行的完成情况。你有没有按照规划或者预期做到位,质量怎么样。

  • 预算的使用情况。是否有合规地去使用款项。

注:“合规”并不是单纯指严格的按照计划。因为是不是严格按照计划要看不同的出资方,比如有些出资方(如政府购买服务)会非常的严谨,要求你必须按照预算表来执行预算。

也有一些资方相信公益项目在执行的过程中会遇到不可控的变化和一些新的机会,所以会给你预算调整的空间。

但是不管是严格按照预算还是有灵活空间,资方最重视的均是合规,即是否有乱挪用,是否按照一个比较合理的方式来使用这些资金。


  • 服务对象参与情况。很多机构会忽略服务对象在整个服务开展过程中的参与情况,但其实这一点非常重要。服务价值的交付,一个项目效果的达成,它不是在项目结束后才开始的,而是在项目开展的过程中一点点实现的。
    比如我们面向孩子做阅读推广。在整个过程中,你跟孩子的每一次接触,都让他对阅读这件事产生不同的理解、认知和互动。最终等到项目结束,你就会看到整体的效果有没有实现。

    所以服务对象的参与情况非常重要。如果服务对象不参与,那么项目几乎不可能有好的“结果”。


2,评估“看”什么


评估本身包容的内容非常丰富,没有办法一一罗列。如下为几个常见的,机构自己资方/利益相关方都关注的方向。


  • 有效性:这个是最重要的维度。只强调服务“有价值”是不够的,我们要关注的是这个“价值”跟我们的预期相比是否匹配。
  • 相关性:你的整个项目设计和执行是否回应了目标服务对象的需求。你的相关性检查应包含两个部分:目标服务对象和需求回应。

    去年我们都看到了新闻,公众对于春蕾计划的主要质疑,就是因为项目的目标服务对象为女童,但是资助对象却包含男学生。

    回应需求也是如此。一个提升阅读素养的公益项目,如果服务设计和执行一直围绕着亲子关系,那么对于很多资方来说,你的项目跟你拟定回应的需求就不相关。
  • 可持续性:这几年越来越多的资方会问可持续性。对于可持续性的评估有两个方面:

    1)从你的服务对象的视角看,你的项目结束后,项目效果如何持续;

    2)从资方的角度看,你自己运营项目的可持续性。在固定期限的资金投入结束后,你怎么保证服务的可持续发展。如果资金停止投入了,你是否可以持续为服务对象提供价值。

*小技巧:如果你团队内部或资方要做可持续性的评估,你可以问一问,评估方到底看重哪一个维度的可持续,这样你们可以对可持续性进行更具体的界定。


  • 效率和效能:资方不只期待项目方“把钱按照规定花完”,还期待项目方能最大化地使用资源,达成目标。


这里也是很多伙伴感到困惑的部分:既然常见,那是不是我应该每一个方面都做?


我们的回答是:看需要和投入产出比。


“什么都做”常常意味着每一个方面都需要相应的数据收集,工作量非常庞大,人力、资源、时间成本也会变高。除非你们有很多的资源,有核心的监测评估团队,否则很难“都做”。


更重要的是,不论资源丰富与否,我们都应该思考“为什么要做”,以及怎么样能在可负担的范围内挑选重要的项目来做,帮助我们真正回答监测评估的问题,去服务我们监测评估的目标。


3,评估指标的确认


有四个方式可以帮助你确定指标。大家可以根据自己的经验、习惯和偏好去选择。


  • 看专业同行。一般在一个领域内的头部机构,在监测评估方面都会做得比较好。

    所谓的头部机构可能有国际机构,可能有在议题领域做得比较好的组织,会在行业交流会上分享交流。你可以专门去了解下他们的监测评估是怎么做的。

*小技巧:大家也可以跳出公益行业,更开放地向外寻找。商业领域的机构想要说服更多的人去认可他们的产品,就一定要靠数据、效果来说话。

比如悦享新知专注成人教育,我们就会经常参考三节课的指标。也可以试着找找在你们的相关领域里面的那些投资顾问机构(做市场分析或咨询的),看看他们是怎么评估效果的,你一定会获得一些很好的指标的参考。


  • 看别人的评估报告。可以参考别人的评估报告,全版或简版(摘要版)都可以。主要看看报告里的评估指标的设计。

  • 在实践中积累。在服务开展过程中,我们内心都会产生一种下意识的判断——这个项目好像做得挺好的,那个项目好像做得不怎么样。

    这就是看到一个东西后,我们大脑的快速分析。那我们到底看到了什么,才觉得这些项目行/不行呢?这些看到的东西提炼出来就会成为非常好的指标。

    听起来似乎有点不可思议,但这也是很多专业讲评估的工具书中建议的一种方法。

    所以如果你暂时还不能确定你的指标,可以试试这几个步骤:

    1)看看你脑中是否有一些初步的想法;

    2)将你初步的想法写下来,看看有哪些是可以成为“潜在指标”,然后尝试去测试下;

    3)在测试中,看这个指标的表现与你项目有效的关联度。确定“好指标”和“需要舍弃指标”。“好指标”=这个指标的表现可以让我们直接判断项目是否有效。“需要舍弃指标”=指标表现好坏,都无法让我们判断项目是否有效。

    “好指标”就可以被积累下来,作为你评估指标的一个内容。

*小技巧:当大家遇到自己不确定的指标时,最好的办法就是去试一试,试着去围绕这个指标收集一些数据看一看,你一定会有所收获。


  • 善用搜索引擎。不管是用百度、必应还是谷歌,你都可以尝试去搜索“如何衡量/评估XXX(可以是你的项目信息也可以是相关议题领域)”。在网络上公开资料里,找到那些与你项目相似/相关的指标都是怎么确定的。


4.项目伙伴配合度的提升


如何能更好地与相关伙伴合作,将事情推进下去,也是很多伙伴遇到的一大难题。


一个方法是,大家可以对照如下公式,回顾下自己的执行过程,看看“卡”在哪些环节,去做针对性改善。

下面是对公式一个简短介绍:

  • 先让伙伴们理解“为什么做”,而不能把伙伴单纯地当成工具人,当成我们数据收集的手和脚。

    为了让他们跟我们一起做好这件事情,我们需要说清楚为什么要做监测评估,并且用通俗易懂的方式向你的伙伴传达。

  • 明确伙伴们的收益。要和伙伴们说清楚,做评估有什么样的收益。如果只是说“这是我们的要求,必须要做”,那么大家多半会应付了事。

    为什么做和有什么收益,加起来才能让一个人或者一个团队愿意去配合你做这件事情,这是两个比较重要的因素。

  • 说清楚伙伴们在其中的角色。很多时候我们会把监测评估的“一摊事情”直接“丢给”伙伴们,但他们也不知道在这个过程中到底要做什么,具体怎么做,自然也会丧失积极性

  • 尽量降低伙伴们的工作门槛和难度。在工作中尽量使用标准化的问卷或访谈提纲,把转发文案都写好,让伙伴们很轻松地完成问卷转发和数据收集,不占用他们太多额外的时间和精力。


谁来做监测评估?

说到监测评估,我们的第一反应就是“第三方评估”。外部的第三方,可能是一个评估专家或一个评估团队。但其实在现实工作中,机构自己做监测评估是常态,第三方评估则主要服务于特定场景。


这些特定场景大体有两种:

  • 第一种,政府/资方需要一个中立、无利益相关的第三方来进行成效评估,比如政府采购的社会服务。这种情况一般都是由政府/资方来买单。

  • 还有一种是在机构服务发展到了一定阶段后,希望获得专业第三方评估报告作为背书,用于未来的筹资场景。但是这种场景也不会高频发生,更多的是在机构发展到一定阶段的一次需求。


而对于更多机构来说,不管是为了回应资方的问责需要,还是优化项目设计,对于成效的确认都是每年或者每几年固定发生的。因此出于成本和可持续性考虑,机构自己做监测评估都是最优选。


既然自己做是常态的,那么我们需要具备什么样的能力呢?


  • 提出问题:明确想要通过监测评估回答什么问题,比如需要验证XX项目的XX成效,或者是运行过程中服务对象的参与情况等。

  • 数据收集:你所提出的问题,需要什么样的数据,用什么样的方式收集,从哪里收集。

  • 数据分析/解读:数据收上来之后,你需要对数据进行分析和解读。90%的数据分析都可以通过Excel来解决,还可以借助成熟的数据分析平台。

    不管用Excel还是用数据分析的平台,他可以告诉你的是分析结果。但是更重要的是你如何基于分析结果做出解读。

    比如,在满意度调查里,非常满意的0%,一般满意的有70%,特别不满意的有30%。我们对这个数据的解读是什么呢?

    数据分析很容易,难的是如何让你的解读回应你的问题。

  • 形成判断:基于前面的问题,数据分析和解读,形成自己的判断和评估结论。

  • 应用:将评估结论应用在不同场景中,比如筹款、利益相关方沟通、内部沟通、项目优化等。还有一种场景是政策倡导类,很多机构会拿着有数据支撑的报告去跟政府做政策建议。

总结一下,以上这些能力更偏向于通用型能力,是可以在实践中不断练习获得的。


这些能力不需要每一个人都掌握,大家可以在团队内部分工合作完成。比如项目经理和机构理事会能提出问题,项目的管理运营团队能够做数据收集和分析解读,然后大家共同形成判断并加以应用。


我们也可以在不同方向找到擅长的人,让他们做擅长的事情,甚至可以跟一些外部的伙伴合作来完成。




拓展学习资料:


1.如果你想进行理论学习,让自己对【监测评估】形成系统认知,可以参照《评估学》

 

2.如果你想学习更多实操方面的知识点,可以参照:
  • PMD Pro2.0指南

    长按二维码下载


  • 广州市汉达社会服务中心也提供PMD Pro培训和认证等专业的服务。培训中心理事长陈志强带领开展,课程依据PMD指南,涉及项目的5个阶段,包括识别与界定、项目组建、规划、执行和结束。(点击查看


  • 悦享新知的飞轮计划中的模块3和4

 

3.如果你想了解不同机构的监测评估案例,可以关注资助者圆桌论坛,关注后,进入菜单栏:知识库 - 有效公益 - 监测评估。里面既有关于基金会资助项目的监测评估,也有公益伙伴们的监测评估案例。



启发时刻,「监测评估」往期回顾
继续滑动看下一个
悦享新知
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存