用qsub提交连续和独立的作业有多快?

2024-06-16 11:46:07 发布

您现在位置:Python中文网/ 问答频道 /正文

这个问题与pbs job no output when busy有关。i、 e当PBS/Torque“忙”时,我提交的一些作业没有输出。我想象,当许多作业一个接一个地提交时,会更忙,而且碰巧,在以这种方式提交的作业中,我经常会得到一些不产生任何输出的作业。在

这里有一些代码。在

假设我有一个名为“x”的python脚本_分析.py“它将包含某些数据的文件作为输入,并分析存储在该文件中的数据:

./x_analyse.py data_1.pkl

现在,假设我需要: (1) 准备N个这样的数据文件:data_1.pkl,data_2.pkl,…,data_N.pkl (2) 有“x”_分析.py“处理每一个,并将结果写入每个文件。 (3) 由于不同数据文件的分析都是相互独立的,我将使用PBS/Torque并行运行它们以节省时间。(我认为这本质上是一个“令人尴尬的平行问题”。)

我有一个python脚本来执行上述操作:

^{pr2}$

该脚本准备一组要分析的数据,将其保存到一个文件中,编写用于分析这组数据的pbs submit文件,提交要执行此操作的作业,然后继续对下一组数据执行相同的操作,依此类推。在

实际上,当脚本运行时,作业ID的列表会在作业提交时打印到标准输出ls'表示存在N.sub文件和N.pkl数据文件qstat'表示所有作业都在运行,状态为“R”,然后完成,状态为“C”。但是,之后,'ls'显示出只有少于N.out的输出文件,“x”生成的结果文件也少于N个_分析.py". 实际上,有些工作没有产出。如果我清除所有内容,并重新运行上面的脚本,我将得到相同的行为,有些作业(但不必与上次相同)不产生任何输出。在

有人建议,通过增加提交连续作业之间的等待时间,情况会有所改善。在

time.sleep(10.) #or some other waiting time

但我觉得这不是最令人满意的,因为我试过0.1s,0.5s,1.0s,2.0s,3.0s,没有一个真正有用。有人告诉我,50秒的等待时间似乎很好,但如果我必须提交100份工作,等待时间将大约为5000秒,这似乎太长了。在

我尝试过通过提交作业数组来减少“qsub”的使用次数。我会像以前一样准备所有的数据文件,但只有一个提交文件,“分析”_全部.sub“:

#!/bin/bash                                                                                                                                                    
#PBS -N analyse                                                                                                                            
#PBS -o analyse.out                                                                                                                        
#PBS -q compute                                                                                                                                                
#PBS -j oe                                                                                                                                                     
#PBS -l nodes=1:ppn=1                                                                                                                                          
#PBS -l walltime=5:00:00                                                                                                                                       
cd $PBS_O_WORKDIR

./x_analyse.py data_$PBS_ARRAYID.pkl

然后提交

qsub -t 1-100 analyse_all.sub

但即便如此,有些工作岗位仍然不能产生产出。在

这是常见问题吗?我做了什么不对吗?在提交工作申请之间等待是最好的解决方案吗?我能改进一下吗?在

提前谢谢你的帮助。在

编辑1:

我使用的是扭矩版本2.4.7和毛伊岛版本3.3。在

另外,假设作业ID为1184430.mgt1的作业不生成输出,而作业ID为1184431.mgt1的作业按预期生成输出,当我在这些作业上使用“tracejob”时,我得到以下结果:

[batman@gotham tmp]$tracejob 1184430.mgt1
/var/spool/torque/server_priv/accounting/20121213: Permission denied
/var/spool/torque/mom_logs/20121213: No such file or directory
/var/spool/torque/sched_logs/20121213: No such file or directory

Job: 1184430.mgt1

12/13/2012 13:53:13  S    enqueuing into compute, state 1 hop 1
12/13/2012 13:53:13  S    Job Queued at request of batman@mgt1, owner = batman@mgt1, job name = analysis_1, queue = compute
12/13/2012 13:53:13  S    Job Run at request of root@mgt1
12/13/2012 13:53:13  S    Not sending email: User does not want mail of this type.
12/13/2012 13:54:48  S    Not sending email: User does not want mail of this type.
12/13/2012 13:54:48  S    Exit_status=135 resources_used.cput=00:00:00  resources_used.mem=15596kb resources_used.vmem=150200kb resources_used.walltime=00:01:35
12/13/2012 13:54:53  S    Post job file processing error
12/13/2012 13:54:53  S    Email 'o' to batman@mgt1 failed: Child process '/usr/lib/sendmail -f adm batman@mgt1' returned 67 (errno 10:No child processes)
[batman@gotham tmp]$tracejob 1184431.mgt1
/var/spool/torque/server_priv/accounting/20121213: Permission denied
/var/spool/torque/mom_logs/20121213: No such file or directory
/var/spool/torque/sched_logs/20121213: No such file or directory

Job: 1184431.mgt1

12/13/2012 13:53:13  S    enqueuing into compute, state 1 hop 1
12/13/2012 13:53:13  S    Job Queued at request of batman@mgt1, owner = batman@mgt1, job name = analysis_2, queue = compute
12/13/2012 13:53:13  S    Job Run at request of root@mgt1
12/13/2012 13:53:13  S    Not sending email: User does not want mail of this type.
12/13/2012 13:53:31  S    Not sending email: User does not want mail of this type.
12/13/2012 13:53:31  S    Exit_status=0 resources_used.cput=00:00:16 resources_used.mem=19804kb resources_used.vmem=154364kb resources_used.walltime=00:00:18

编辑2: 对于不生成输出的作业,“qstat-f”返回以下值:

[batman@gotham tmp]$qstat -f 1184673.mgt1
Job Id: 1184673.mgt1   
Job_Name = analysis_7
Job_Owner = batman@mgt1
resources_used.cput = 00:00:16
resources_used.mem = 17572kb
resources_used.vmem = 152020kb
resources_used.walltime = 00:01:36
job_state = C
queue = compute
server = mgt1
Checkpoint = u
ctime = Fri Dec 14 14:00:31 2012
Error_Path = mgt1:/gpfs1/batman/tmp/analysis_7.e1184673
exec_host = node26/0
Hold_Types = n
Join_Path = oe
Keep_Files = n
Mail_Points = a
mtime = Fri Dec 14 14:02:07 2012
Output_Path = mgt1.gotham.cis.XXXX.edu:/gpfs1/batman/tmp/analysis_7.out
Priority = 0
qtime = Fri Dec 14 14:00:31 2012
Rerunable = True
Resource_List.nodect = 1
Resource_List.nodes = 1:ppn=1
Resource_List.walltime = 05:00:00
session_id = 9397
Variable_List = PBS_O_HOME=/gpfs1/batman,PBS_O_LANG=en_US.UTF-8, PBS_O_LOGNAME=batman,
    PBS_O_PATH=/gpfs1/batman/bin:/usr/mpi/gcc/openmpi-1.4/bin:/gpfs1/batman/workhere/instal
    ls/mygnuplot-4.4.4/bin/:/gpfs2/condor-7.4.4/bin:/gpfs2/condor-7.4.4/sb
    in:/usr/lib64/openmpi/1.4-gcc/bin:/usr/kerberos/bin:/usr/local/bin:/bi
    n:/usr/bin:/opt/moab/bin:/opt/moab/sbin:/opt/xcat/bin:/opt/xcat/sbin,
    PBS_O_MAIL=/var/spool/mail/batman,PBS_O_SHELL=/bin/bash,
    PBS_SERVER=mgt1,PBS_O_WORKDIR=/gpfs1/batman/tmp,
    PBS_O_QUEUE=compute,PBS_O_HOST=mgt1
sched_hint = Post job file processing error; job 1184673.mgt1 on host node
    26/0Unknown resource type  REJHOST=node26 MSG=invalid home directory '
    /gpfs1/batman' specified, errno=116 (Stale NFS file handle)
etime = Fri Dec 14 14:00:31 2012
exit_status = 135  
submit_args = analysis_7.sub
start_time = Fri Dec 14 14:00:31 2012
Walltime.Remaining = 1790
start_count = 1
fault_tolerant = False
comp_time = Fri Dec 14 14:02:07 2012

与产生输出的作业相比:

[batman@gotham tmp]$qstat -f 1184687.mgt1
Job Id: 1184687.mgt1
Job_Name = analysis_1
Job_Owner = batman@mgt1
resources_used.cput = 00:00:16
resources_used.mem = 19652kb
resources_used.vmem = 162356kb
resources_used.walltime = 00:02:38
job_state = C
queue = compute
server = mgt1
Checkpoint = u
ctime = Fri Dec 14 14:40:46 2012
Error_Path = mgt1:/gpfs1/batman/tmp/analysis_1.e118468
    7
exec_host = ionode2/0
Hold_Types = n
Join_Path = oe
Keep_Files = n
Mail_Points = a
mtime = Fri Dec 14 14:43:24 2012
Output_Path = mgt1.gotham.cis.XXXX.edu:/gpfs1/batman/tmp/analysis_1.out
Priority = 0
qtime = Fri Dec 14 14:40:46 2012
Rerunable = True   
Resource_List.nodect = 1
Resource_List.nodes = 1:ppn=1
Resource_List.walltime = 05:00:00
session_id = 28039 
Variable_List = PBS_O_HOME=/gpfs1/batman,PBS_O_LANG=en_US.UTF-8,
    PBS_O_LOGNAME=batman,
    PBS_O_PATH=/gpfs1/batman/bin:/usr/mpi/gcc/openmpi-1.4/bin:/gpfs1/batman/workhere/instal
    ls/mygnuplot-4.4.4/bin/:/gpfs2/condor-7.4.4/bin:/gpfs2/condor-7.4.4/sb
    in:/usr/lib64/openmpi/1.4-gcc/bin:/usr/kerberos/bin:/usr/local/bin:/bi
    n:/usr/bin:/opt/moab/bin:/opt/moab/sbin:/opt/xcat/bin:/opt/xcat/sbin,
    PBS_O_MAIL=/var/spool/mail/batman,PBS_O_SHELL=/bin/bash,
    PBS_SERVER=mgt1,PBS_O_WORKDIR=/gpfs1/batman/tmp,
    PBS_O_QUEUE=compute,PBS_O_HOST=mgt1
etime = Fri Dec 14 14:40:46 2012
exit_status = 0
submit_args = analysis_1.sub
start_time = Fri Dec 14 14:40:47 2012
Walltime.Remaining = 1784
start_count = 1

其中一个的退出状态似乎是0,但另一个不是。在

编辑3:

从上面的“qstat-f”输出来看,问题似乎与作业后文件处理中的“Stale NFS file handle”有关。通过提交数百个测试作业,我已经能够识别出产生失败作业的大量节点。通过ssh查找这些文件,我可以在/var/spool/torque/spool中找到丢失的PBS输出文件,在那里我还可以看到属于其他用户的输出文件。这些有问题的节点有一个奇怪的地方:如果它们是唯一被选择使用的节点,那么作业在它们上运行得很好。只有当它们与其他节点混合时才会出现问题. 在

由于我不知道如何修复作业后处理“过时的NFS文件句柄”,我通过向这些节点提交“虚拟”作业来避免这些节点

echo sleep 60 | qsub -lnodes=badnode1:ppn=2+badnode2:ppn=2

在提交真正的工作之前。现在所有的作业都能按预期产生输出,不需要在连续提交之前等待。在


Tags: 文件binusr作业jobtmpdecused
1条回答
网友
1楼 · 发布于 2024-06-16 11:46:07

我在失败作业的tracejob输出中看到两个问题。在

首先是Exit_status=135。此退出状态不是Torque错误代码,而是脚本返回的退出状态x_analyse.py。Python没有使用sys.exit()函数的约定,135代码的源代码可能在脚本中使用的某个模块中。在

第二个问题是作业后文件处理失败。这可能表示节点配置错误。在

从现在开始我猜。由于一个成功的作业需要大约00:00:16,因此在延迟50秒的情况下,您的所有作业都会到达第一个可用节点。通过较小的延迟,您可以让更多的节点参与进来,并最终命中一个配置错误的节点,或者让两个脚本在单个节点上同时执行。我会修改提交脚本添加一行

  'echo $PBS_JOBID :: $PBS_O_HOST >> debug.log',

生成.sub文件的python脚本。这会将执行主机的名称添加到调试日志如果我正确理解了您的设置,它将驻留在一个公共文件系统中。在

然后,您(或Torque管理员)可能希望在故障节点上的MOMspool目录中查找未处理的输出文件,以获取进一步诊断所需的信息。在

相关问题 更多 >