查看原文
其他

eLife 震撼推出5篇论文,直指顶级研究可重复性差

2017-01-24 科研圈

本文经授权转载自微信公众号“BioArt”(ID: BioGossip)



2017年1月19日,eLife 杂志在线出版了5篇研究论文,这些研究直指过去几年里肿瘤生物学领域广受瞩目的部分研究成果的可重复性非常差。


背景


2013年,一位名叫 Elizabeth Iorns 的80后女性肿瘤生物学家(University of Miami Miller School of Medicine助理教授)发起了一项癌症生物领域重复性工程”(Reproducibility Project: Cancer Biology ),该工程旨在挑选出2010年至2012年间50篇高影响力的肿瘤生物学相关研究论文,验证这些论文的可重复性(目前由于资金的原因,50篇论文缩减到30篇)。该项工程主要由 Elizabeth Iorns 创办的 Science Exchange (一个科学实验外包平台)联合 Center for Open Science(科学开放中心)完成。



2010到2012年三年中每一年选取用于重复验证的排名前三的研究(来源:2015,The Cancer Test,Science


2015年,Science 杂志以“The Cancer Test”为题专文报道了“癌症生物领域重复性工程”的由来和设立的背景,其中特别提到一个主要原因可能是因为一些制药公司巨头在重复 CNS 等顶级杂志中发表的肿瘤相关论文时发现可重复性非常低(Amgen 公司的数据表明,53篇顶级肿瘤研究论文只有6篇可以重复;Bayer 公司的数据表明有79%的重复失败率)。由于公司和相关实验室签订了保密协议而不能公布他们无法重复的研究,这使得公司显得很被动。


如今,将近3年的时间过去了,eLife 终于发布了第一阶段5篇重复性实验的结果,结果十分令人遗憾,无一例外都表示被挑选的这些论文论文的可重复性非常差。这5篇论文如下(分别源自 Cell,Nature,Science,PNAS 和 Sci Trans Med):




为了增加重复项目的严谨性,项目负责人在实验开始前联系被选中进行重复试验的一些论文的作者,查阅了相关的原始数据,项目组还和有关学校签订了细胞、质粒和小鼠等实验资源转移协议,最终将专家审核过的实验方案发布在 eLife 杂志上。


5篇被选中的论文


第一篇(Cell,2011,谷歌学术引用1051次):



该项研究部分关键试验能被很好的重复。不过,在小鼠荷瘤实验中部分结果尽管和此前报道的结果相似,但是没有显著的统计学意义。


第二篇(Nature,2012,谷歌学术引用422次):



Nature 这篇文章通过测序手段鉴定到了一个与黑色素瘤发生相关的基因 PREX2突变,并且在体内的过表达实验中显示过表达关键点突变的 PREX2能促进肿瘤发生率(下图右)。而 eLife 这篇重复性的研究表明,过表达野生型的 PREX2和突变的 PREX2对肿瘤生长没有影响(下图左)。令人惊讶的是,相较于对照组,Nature 文章中70%小鼠的中位无瘤生存期都在9周以后,而 eLife 重复性实验中的小鼠的中位无瘤生存期都只有一周左右。




第三篇(Science,2010,谷歌学术引用493次):



2010年发表的这项研究成果主要是发现了一种称为 iRGD 的小肽可以协助抗肿瘤药物渗透到坚韧的肿瘤组织中,从而提高肿瘤药物的治疗效果,而且该小肽不会增加对正常细胞的毒性。然而 eLife 上报道的这项重复性研究中并没有发现 iRGD 上述这些作用。


第四篇(Sci Trans Med,2011,谷歌学术引用331次):



2011年的研究中生成发现了一种可以用于治疗肺癌的药物Cimetidine,然而 eLife 的这项重复性研究中并没有看到 Cimetidine 在治疗小鼠肺癌的模型中有统计学意义。


第五篇(PNAS,2012,谷歌学术引用288次):



PNAS 这项研究声称发现 CD47可以作为一个肿瘤治疗的靶点,用针对 CD47的抗体治疗可以有效地抑制肿瘤生长。然而,在 eLife 的这项重复性研究中,用抗 IgG 抗体作对照,并没有看到用 CD47抗体能够有效地治疗肿瘤。


总的来说,上述5项重复试验中,只有第一篇文章的重复性稍微好一些,尽管很多地方也是不尽如人意,而其它4篇文章的肿瘤相关实验中可重复性极差,几乎可以判定为那些所谓新开发的药物或者新鉴定到的靶点并没有起到很明显的作用。结果令人沮丧,尽管此前这些文章在发表之时引起一时的轰动或者很多制药公司的关注。高影响力的论文如此差的重复性确实令人担忧,但是这个项目背后也引起了不少当事科学家的质疑,对很多科学家来说,最大的担忧恐怕是这些承担重复性工程的相关实验室的专业程度,而且可能还有其他公司利益上的考量。另外值得考虑的一点就是,如果仅仅把实验方案提供给外包的实验平台就能解决问题,那么问题来了,科学家还需要花费巨大的精力和时间在实验上吗?


eLife 这5篇文章只是目前生物医学领域论文验证重复性的一个开端,是好是坏现在难以评估,后续应该会有20多篇文章会被陆续重复并且发布结果,等此时告一段落,或许学术界会有自己的一个判定。让我们拭目以待吧。


参考文献:

1. B. A. Nosek and T.M. Errington, “Making sense of replications,” eLife,  doi:10.7554/eLife.23383.001, 2017. 

2. F. Aird et al., “Replication Study: BET bromodomain inhibition as a therapeutic strategy to target c-Myc,” eLife, 6:e21253, 2017.

3. S. Horrigan et al., “Replication study: Melanoma genome sequencing revealsfrequent PREX2mutations,” eLife, 6:e21634,2017.

4. S. Horrigan et al., “Replication study: The CD47-signal regulatory protein alpha, SIRPa, interaction is a therapeutic target for human solid tumors,” eLife, 6:e18173,2017.

5. I. Kandela et al., “Replication study: Discovery and preclinical validation ofdrug indications using compendia of public gene expression data,” eLife, 6:e17044,2017

6. C. Mantis et al., “Replicationstudy: Coadministration of a tumor-penetrating peptide enhances the efficacy ofcancer drugs,” eLife, 6:e17584, 2017.

7. The Cancer Test. Science,2016


阅读更多

▽ 故事

· 2016年物理学领域被引最高的20篇论文,12篇都是关于这个不存在的粒子

· “2016年度学术公众号”20强入围榜单出炉 | 科研圈出品

· 过年回家,如何让你的七大姑八大姨搞明白你在研究啥?

· Science:做博士后的代价

▽ 论文推荐

· NgAgo 或只能切割 RNA | BioRxiv 论文推荐

· 大脑也负责抗击细菌? | Cell Immunity 论文推荐

· 新型材料或能连接量子物理和经典物理 | Science论文推荐

▽ 论文导读

· Science 等一周论文导读(上)| 2017年第2期

· Science 等一周论文导读(下)| 2017年第2期


内容合作请联系

keyanquan@huanqiukexue.com



这里是“科学美国人”中文版《环球科学》服务科研人的微信号“科研圈”。我们:


· 关注科学进展与科研生态

· 推荐重要前沿研究

· 发布科研招聘

· 推送学术讲座与会议预告。


欢迎长按二维码关注。


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存