兰德-Assessing-Research-Impact_-An-international-review-of-the-Excellence-in-Innovation-for-Australia-Trial_104页_1mb
报告摘要
总结:评估澳大利亚卓越创新计划(EIA)的影响评估试验
核心内容
本报告由RAND Europe撰写,旨在评估澳大利亚卓越创新计划(EIA)影响评估试验的成效,并提出改进建议和扩展思路。EIA试验是澳大利亚高等教育研究影响评估的重要试点,为未来可能与“卓越研究澳大利亚”(ERA)配套的评估体系提供了基础。
主要观点
-
EIA试验是成功的,但仍有改进空间
- EIA试验成功实现了其目标,即评估澳大利亚部分大学的非学术研究影响,并为未来ERA的配套评估提供了试点经验。
- 试验鼓励大学反思其研究的非学术影响,展示了通过案例研究方法评估研究影响的可行性。
- 然而,试验中仍存在一些可以改进的地方,如案例研究的质量、评估标准的完善等。
-
案例研究质量有待提升
- 案例研究的描述和影响性质的评分与总体评分高度相关,而研究如何支撑影响或影响的验证则相关性较低。
- 案例研究的模板和指导材料可以进一步优化,以提高研究者撰写案例的能力。
- 机构和研究者普遍对试验持积极态度,但部分案例存在技术性错误,如过于关注未实现的潜力影响。
-
应将研究的贡献纳入评估标准
- 当前EIA评估标准主要关注“影响范围”和“影响程度”,但忽略了研究本身的贡献。
- 未来应考虑将“研究贡献”作为评估标准之一,以更全面地反映研究对实际影响的推动作用。
-
建立研究影响的文化与期望
- 澳大利亚高等教育界已有一定的研究影响评估基础,未来应进一步推广这种文化,以满足公众和政策制定者对研究影响的期望。
- 大学需制定内部影响战略,不仅关注影响的管理,还要主动最大化其实际效果。
-
需理解未来评估的利弊
- 未来评估可能引发一些未预期的后果,例如机构可能试图在评估周期内“管理”影响的时间点。
- 需提前讨论和辩论这些问题,以确保评估过程的公正性和有效性。
-
若扩大规模,EIA需重新配置评估流程
- 若EIA要成为ERA的配套评估,需明确其主要目的,并可能调整分析单位。
- 当前以社会经济目标(SEO)代码为组织原则的方式可能过于宽泛,影响评估的多样性。
- 需考虑增加参与机构和案例数量,同时优化SEO代码的分类方法。
-
确保评估的经济合理性
- 未来EIA评估体系应确保其成本效益,即评估成本不应超过收益的十分之一。
- 每个案例研究的评估成本估计为5至10天(约合5万至10万澳元),若要使评估具有价值,需为每个案例分配相应的资金。
-
需提前与未参与机构沟通
- 未来若扩大EIA评估范围,应尽早与未参与的大学进行沟通,以确保评估体系的公平性和一致性。
- 需提供案例研究范例和指导手册,并推动整个高等教育界对研究影响的讨论和辩论。
关键信息
- 参与机构与案例数量:12所澳大利亚大学参与了EIA试验,共提交了165个案例研究。
- 评估团队:由75名专家组成的7个独立评估小组对案例进行评分,其中70%来自非大学领域。
- 评估标准:EIA采用社会经济目标(SEO)代码作为分类依据,与英国REF的学科分类不同。
- 调查结果:所有参与机构均回应了调查,24名案例研究作者也参与了反馈。
- 成本与收益:评估每个案例的平均成本约为5万至10万澳元,未来需确保投入产出比合理。
建议
- 改进案例研究:优化指导材料、调整案例模板、提供写作培训。
- 纳入研究贡献:在评估标准中加入“研究贡献”作为独立指标。
- 建立影响文化:推动大学和公众对研究影响的重视与期望。
- 扩大评估规模:重新配置评估流程,明确评估目的,调整分析单位。
- 确保经济合理性:合理控制评估成本,确保其对大学的激励作用。
- 促进广泛参与:与未参与机构沟通,确保评估体系的公平性和一致性。
附录内容概要
- 附录A:回顾EIA影响评估指南,分析其概念与实践中的挑战。
- 附录B:案例研究的评审分析,包括方法、过程观察和改进建议。
- 附录C:分析评估小组的评分数据,包括评分行为、一致性及时间成本。
- 附录D:调查结果,涵盖机构和研究者对EIA试验的反馈。
结论
EIA试验为澳大利亚高等教育研究影响评估提供了宝贵的经验和教训。其成功表明,通过案例研究方式可以有效评估研究的非学术影响,但未来需在流程、标准、文化、成本等方面进行优化和扩展,以确保其可持续性和广泛适用性。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载