解决参数列表过长问题:合并25万read_\d\d.fasta文件
解决"argument list is too long"并合并大量fasta文件
你之前的for循环没起作用,是因为输出文件写的是combined.$i——这会给每个输入文件单独生成一个对应的合并文件,根本没把所有内容整合到一起。下面给你几个靠谱的解决方法:
方法1:修正for循环
改成固定输出文件名,直接把所有文件内容追加到同一个文件里:
# 先清空目标文件(如果已经存在的话) > all.fasta # 遍历所有符合格式的文件,追加内容 for i in read_??.fasta; do cat "$i" >> all.fasta done
用read_??.fasta比read*.fasta更精准,刚好匹配你read_加两位数字的文件名格式;给变量加双引号"$i"是好习惯,防止万一文件名里出现空格或特殊字符(虽然你的情况里不会,但养成习惯没坏处)。
方法2:用find命令(效率更高)
find能避开参数列表过长的问题,而且可以批量处理文件,减少进程启动次数:
# 直接一次性合并所有符合条件的文件到all.fasta find . -maxdepth 1 -type f -name 'read_??.fasta' -exec cat {} + > all.fasta
-maxdepth 1表示只找当前目录的文件,不递归子目录;-type f确保只处理文件,排除目录;-exec cat {} +会把找到的文件分批传给cat,避免参数过长,同时减少cat的启动次数,比循环单文件快很多。
如果想要分步追加(比如怕中途出错可以续加),也可以用\;代替+,不过效率会低一些:
> all.fasta find . -maxdepth 1 -type f -name 'read_??.fasta' -exec cat {} >> all.fasta \;
方法3:用printf + xargs
printf是shell内置命令,不会触发参数列表过长的问题,再配合xargs分批调用cat:
printf "%s\n" read_??.fasta | xargs cat > all.fasta
这个方法简单直接,适合不想写复杂find参数的场景。
小提示
如果你的文件数量真的有25万,优先选方法2的-exec ... +或者方法3,这两个比单文件循环快不少,因为减少了大量的cat进程启动开销。
内容的提问来源于stack exchange,提问作者SaltedPork
相关产品推荐
相关产品推荐

