培训同行评审员有什么好处?

关键信息

• 培训同行评审员对同行评审质量的影响可能很小或没有影响。
需要进行规模更大、设计更好的研究,才能更好地估计效果。

什么是同行评审员?

同行评审员是对他人的研究工作进行评价的人员。同行评审员通常是研究人员,其技能与开展所评价研究的技能相似。

同行评审的用途是什么?

研究的资助者和出版商都可能无法确定研究项目或报告的质量是否良好。许多人使用同行评审员评价项目或报告的质量。

如何通过培训评审员提高同行评审质量?

对同行评审员进行培训可能会使他们更善于发现所评估研究的优点和不足。

我们想了解什么?

我们想知道对同行评审员进行培训是否会提高他们的工作质量。

我们做了什么?

我们检索了对同行评审员进行培训与不进行培训、不同类型的培训、标准期刊或资助者做法进行比较的研究。我们提取了所有相关研究的信息并总结了研究结果。我们根据研究方法和规模等因素对证据的可信度进行了评级。

我们发现了什么?

我们发现了10项研究,共涉及1213个分析单位(722名审稿人和491篇稿件)。其中八项研究仅包括期刊同行评审员。其余两项研究包括基金同行评审员。

主要结果

与期刊标准做法相比,通过电子邮件提醒同行评审员检查报告检查单条目可能对报告的完整性影响很小或没有影响(来自2项研究共421篇稿件的证据)。

与期刊标准实践相比,审稿人培训可能会略微提高同行审稿人发现错误的能力(来自1项研究的共418名审稿人证据)。接受过培训的审稿人平均能从9个错误中找出3.25个,而未接受过培训的审稿人平均能从9个错误中找出2.7个。

与期刊的标准做法相比,审稿人培训可能对利益相关者的审稿质量影响很小或没有影响(来自6项研究共616名审稿人和60篇稿件的证据)。

我们不确定视频课程与无视频课程相比对审稿人之间意见一致的影响(来自1项研究75名审稿人的证据)。

结构化的个人打分反馈与一般的打分信息相比,对审稿人之间意见一致的影响可能很小,甚至没有影响(来自1项研究41名审稿人的证据)。

证据有哪些局限性?

我们对大多数证据的信心不足,因为大多数研究缺乏重要信息,纳入的审稿人也太少。此外,目前还不清楚这些研究是否以有效可靠的方式衡量同行评审质量。

这些证据的时效性如何?

证据的更新至2022年4月。

作者结论: 

10项随机对照试验的证据表明,培训同行评审员可能对同行评价的质量几乎没有改善或没有改善。需要有更多的受试者和更广泛的有效和可靠的结局指标的研究。评价利益相关者对同行评价质量评估的研究应确保这些工具有足够的有效性和可靠性。

阅读摘要全文……
研究背景: 

资助者和科学期刊利用同行评审来决定资助哪些项目或发表哪些文章。审稿人培训是提高同行评审质量的一种干预措施。然而,对此类培训效果的研究得出了不一致的结果,并且没有针对这个问题的最新系统综述。

研究目的: 

评价同行评审员培训对基金和期刊同行评审质量的影响。

检索策略: 

我们采用了标准的、广泛的Cochrane检索方法。检索日期截止至2022年4月27日。

纳入排除标准: 

我们纳入了随机对照试验(RCTs;包括整群随机对照试验),这些试验评价了有培训干预的同行评审与常规流程、无培训干预或其他干预,以提高同行评审的质量。

资料收集与分析: 

我们使用了标准的Cochrane方法。我们的主要结局是1. 报告的完整性和2. 同行评审发现的错误。我们的次要结局是 1. 文献计量评分,2. 利益相关者对同行评审质量的评估,3. 评审人之间的一致意见,4. 以过程为中心的结局,5. 同行评审员满意度,以及 6. 资助项目的完成率和速度。我们使用了第一版Cochrane偏倚风险工具来评价偏倚风险,并使用GRADE方法来评价证据质量。

主要结果: 

我们纳入了10项RCT,涉及总计1213个分析单元。分析单位是7项研究中的个人审稿人(总共722名审稿人)和3项研究中的被审稿件(总共491篇稿件)。

在8项RCTs,受试者是期刊同行评审员。在2项研究中,受试者是基金同行评审员。培训干预措施大致可分为基于对话的干预措施(互动研讨会、面对面培训、指导)和单向交流(书面信息、视频课程、检查单、书面反馈)。大多数研究都是小型的。

我们发现,有中等质量证据表明,与期刊标准做法相比,提醒同行评审员检查报告检查单条目的电子邮件对报告完整性(以充分报告的项目比例(从0.00到1.00)来衡量)几乎没有影响(MD=0.02, 95%CI [-0.02, 0.06];2项RCTs,421篇稿件)。

有低质量证据表明,与标准期刊实践相比,审稿人培训可略微提高同行审稿人发现错误的能力(MD=0.55, 95%CI [0.20, 0.90];1项RCT,418名审稿人)。

我们发现,有低质量证据表明,与标准期刊实践相比,审稿人培训对期刊同行评审中利益相关者的评审质量影响很小或没有影响(SMD=0.13个标准差(SDs), 95%CI [-0.07, 0.33];1项研究,418名审稿人),或对期刊同行评审中利益相关者的评审质量变化影响很小或没有影响(SMD=-0.15SDs,95%CI [-0.39, 0.10];5项研究,258名审稿人)。

我们发现,有极低质量的证据表明,在基金同行评审中,视频课程与无视频课程相比,对评审人之间的一致意见影响很小或没有影响(MD=0.14分, 95%CI [-0.07, 0.35];1项RCT,75名评审人)。

有低质量证据表明,与关于评分的一般信息相比,关于评分的结构化个别反馈对基金同行评审中评审员之间的一致意见变化影响很小或没有影响(MD=0.18 分,95%CI [-0.14, 0.50];1项RCT,41名评审员,低质量证据)。

翻译笔记: 

译者:孔令垚(北京中医药大学循证医学中心),审校:尹珩(北京中医药大学20级英语(医学)),2024年2月27日。简体中文翻译由Cochrane中国协作网成员单位,北京中医药大学循证医学中心翻译传播工作组负责,联系方式:tina000341@163.com

Tools
Information