什么,ENA和SRA数据库存放的单细胞转录组测序数据并不一致啊?
是时候把生信技能树的舞台交给后辈!
作者:黑川五郎
写在前面
单细胞转录组以10X公司为主流,单细胞天地公众号详细介绍了cellranger流程,大家可以自行前往学习,如下:
单细胞实战(一)数据下载 单细胞实战(二) cell ranger使用前注意事项 单细胞实战(三) Cell Ranger使用初探 单细胞实战(四) Cell Ranger流程概览 单细胞实战(五) 理解cellranger count的结果
但是这个两年前的系列笔记是基于V2,V3版本的cellranger,目前呢它更新到了版本4,建议大家以最新版教程为准,在《生信技能树》:cellranger更新到4啦(全新使用教程)
前些天我在生信技能树看到:《文章的最高境界-让人无法重复出来???》提到了一个发表在nature cancer杂志的文章,作者将10x Genomics单细胞测序的数据上传到了GEO: GSE138267。但当我们想从 ENA 数据库下载相应的.fastq
原始数据时,却发现每个 RUN 只有一个.fastq
文件:
(上图中 SRR10211576 甚至没有提供.fastq
文件……)
由于现在10x Genomics 的 Cellranger 流程要求输入的.fastq
文件至少有R1
(cell barcode和UMI序列)和 R2
(插入片段),直接从 ENA 下载的单个.fastq
显然不能用于 CellRanger,必须另找办法。
1. 探索 Run Browser
我们在 SRA 的 Run Browser 中随便查看一下 SRR10211573 的基本信息:
可以看到每个 spot 的 read 由三部分组成。你如果足够熟悉10x Genomics的文库结构,根据碱基长度,就不难推测它们分别是R1
(26bp:cell barcode和UMI序列)、R2
(98bp:插入片段)和I1
(8bp:index序列)
我们注意到下面的 Show 2 additional attributes,点开后可以看到fastq-load.py
及其参数:
经过谷歌搜索,我们发现fastq-load.py
来自 ngs-tools,是一个提供给研究者用于上传数据到 SRA 的工具:fastq-load.py --output=<archive path> <other options> <fastq files> | general-loader
我没有细看 github 上的源代码,根据输出结果中的<archive path>
推测它是把多个.fastq
文件合并成一个.sra
文件。那么理论上说完整的.sra
文件里应该包含完整的三部分 reads,利用sra-toolkit
中的fastq-dump
提取出这些文件并用于 Cellranger!
只需要软件版本,参数合适,这个流程超级简单!
2. sra-toolkit
配置sra-docker
这里我搭建了一个 docker 镜像:yuchenlee/sra-toolkit:2.10.8
:
docker pull yuchenlee/sra-toolkit:2.10.8
利用 prefetch
下载.sra
文件:
docker run --rm \
-v /home/lyc/lyc-1995/ncbi/:/home/mydocker/ncbi/ \
--user=1000 \
yuchenlee/sra-toolkit:2.10.8 \
prefetch SRR10211573 --max-size 50000000
挂载宿主机目录时最后一个文件夹要命名为ncbi
,数据默认会下载到ncbi/sra
。搭建镜像的时候我忘了在里面配置aspera
了,下载速度有点慢……
大家最好是使用aspera下载它,可以参考:使用ebi数据库直接下载fastq测序数据 , 需要自行配置好软件。
利用 fastq-dump
提取 reads 文件:
docker run --rm \
-v /home/lyc/lyc-1995/ncbi/:/home/mydocker/ncbi/ \
--user=1000 \
yuchenlee/sra-toolkit:2.10.8 \
fastq-dump --split-files --gzip --outdir ./ncbi/fastq SRR10211573
得到了 3 个 .fastq.gz
文件,对应 Run Browser 中的 reads per spot:
cd ~/lyc-1995/ncbi/fastq/
tree -hl.
├── [6.8G] SRR10211573_1.fastq.gz
├── [21.3G] SRR10211573_2.fastq.gz
└── [3.1G] SRR10211573_3.fastq.gz
0 directories, 3 files
其实从文件大小也大致能看出三者的关系来了。
这个第2步骤是通过作者自己建立的 docker 镜像打包好的sra-toolkit:2.10.8软件而已,首先利用prefetch
下载.sra
文件,然后利用fastq-dump
提取 reads 文件,就解压成为了10X单细胞转录组的3个文件。
大家未必需要使用docker哈,仅仅是 下载解压 sra-toolkit:2.10.8 软件即可使用它附带的这些命令了。
3. Cellranger
按照 Cellranger 的要求重命名:
mv SRR10211573_1.fastq.gz SC16-LB17028_S1_L001_R1_001.fastq.gz
mv SRR10211573_2.fastq.gz SC16-LB17028_S1_L001_R2_001.fastq.gz
mv SRR10211573_3.fastq.gz SC16-LB17028_S1_L001_I1_001.fastq.gz
就可以愉快地跑 cellranger count
啦!其中一个样品结果如下:
4. ENA 和 SRA 不一致
在源代码中查看fastq-load.py
的参数--readTypes=TBT
:
--readTypes:
For specifying read types using B (Biological) or T (Technical)
Use sequence like TBBT - no commas. Defaults to BB. Must be
consistent with number of values specified for read lengths.
If you want the read sequence to be used as the spot group or
part of the spot group use G (Group). Multiple reads incorporated
into the spot group will be concatenated with an '_' separator.
在我们这个例子中,R2
是Biological reads
,R1
和I1
都是Technical reads
。我猜测 ENA 在同步 SRA 中的数据时,默认只同步Biological reads
,这可能就是为什么我们直接从 ENA 下载数据只得到一个.fastq
。而且在fastq-dump
参数中,也有选择丢弃Technical reads
的选项--skip-technical
。但我谷歌了一大圈,并没有找到官方的说明,有人甚至认为这可能是作者上传 ENA 时的失误……
其实要验证这一点,我们可以比较一下从 ENA 下载的.fastq
文件和fastq-dump
输出的结果:
分别展示前 4 行
head -n 4 SRR10211573_2.fastq
@SRR10211573.1 K00384:78:HLM37BBXX:3:1101:27630:1261 length=98
CATTTTGTANTACGGGGATACCTGNGACTGCACCNTTAAAAAATATATTTATCATTTAANTCTTGGGTAANCACACTTCATAACAGAGNAGAGNGANT
+SRR10211573.1 K00384:78:HLM37BBXX:3:1101:27630:1261 length=98
A<<-----<#--7--7---77A-7#7JJFAAJ7J#7-FF-<--<--77--77AF<----#-<<----<77#FJ-<-AJ--7--7-7--#-7-<#--#-head -n 4 SRR10211573.fastq
@SRR10211573.1 K00384:78:HLM37BBXX:3:1101:27630:1261/2
CATTTTGTANTACGGGGATACCTGNGACTGCACCNTTAAAAAATATATTTATCATTTAANTCTTGGGTAANCACACTTCATAACAGAGNAGAGNGANT
+
A<<-----<#--7--7---77A-7#7JJFAAJ7J#7-FF-<--<--77--77AF<----#-<<----<77#FJ-<-AJ--7--7-7--#-7-<#--#-
碱基序列部分是完全一样的。
统计一下 reads 数:
grep -c "@" SRR10211573_2.fastq
284914819
grep -c "@" SRR10211573.fastq
284914819
5. 其他
其实今年还有一篇文章上传的数据也是类似的情况:Single-cell transcriptomic atlas of the human endometrium during the menstrual cycle
这套数据的文库结构是Index
8bp + R1
28bp + R2
91bp,就是 10x V3 试剂盒啦!
理论上也可以走同样的流程!
学徒作业
我在教程:《文章的最高境界-让人无法重复出来???》提到的学徒作业是进入 https://www.ncbi.nlm.nih.gov/geo/query/acc.cgi?acc=GSE138267 下载全部的表达矩阵,走一下文章里面的聚类分群看看,看看重复性如何!当初考虑到,这个文章上传的测序数据并不完整,但是现在经过了粉丝的纠正,发现其实它的测序数据仅仅是在ENA数据库不完整,在SRA数据库仍然是ok的。
所以,新的学徒作业,就是下载这7个单细胞转录组样品的sra文件,然后利用fastq-dump
提取 reads 文件,就解压成为了10X单细胞转录组的3个文件。走cellranger流程!
写到最后
如果你也想开启自己的生物信息学数据处理生涯,但是自学起来困难重重,还等什么呢,赶快行动起来吧!参加我们生信技能树官方举办的学习班:
数据挖掘学习班第8期(线上直播3周,马拉松式陪伴,带你入门),原价4800的数据挖掘全套课程, 疫情期间半价即可抢购。 生信爆款入门-第10期(线上直播4周,马拉松式陪伴,带你入门),原价9600的生信入门全套课程,疫情期间3.3折即可抢购。
生信技能树的粉丝都知道我们有一个全国巡讲的良心学习班,口碑爆棚,生物信息学入门省心省时省力!先看看大家的反馈吧: