我的boto弹性MapReduce作业流参数有什么问题？

Question

我正在使用boto库来在亚马逊的弹性MapReduce网络服务（EMR）中创建一个作业流程。下面的代码应该能创建一个步骤：

step2 = JarStep(name='Find similiar items',
            jar='s3n://recommendertest/mahout-core/mahout-core-0.5-SNAPSHOT.jar',
            main_class='org.apache.mahout.cf.taste.hadoop.similarity.item.ItemSimilarityJob',
            step_args=['s3n://bucket/output/' + run_id + '/aggregate_watched/',
                       's3n://bucket/output/' + run_id + '/similiar_items/',
                       'SIMILARITY_PEARSON_CORRELATION'
                      ])

但是当我运行这个作业流程时，它总是失败，并抛出这个错误：

java.lang.NoClassDefFoundError: org/apache/hadoop/mapreduce/JobContext
at java.lang.Class.forName0(Native Method)
at java.lang.Class.forName(Class.java:247)
at org.apache.hadoop.util.RunJar.main(RunJar.java:148)
at org.apache.hadoop.mapred.JobShell.run(JobShell.java:54)
at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:65)
at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:79)
at org.apache.hadoop.mapred.JobShell.main(JobShell.java:68)
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.mapreduce.JobContext

这是EMR日志中调用java代码的那一行：

2011-01-24T22:18:54.491Z INFO Executing /usr/lib/jvm/java-6-sun/bin/java \
-cp /home/hadoop/conf:/usr/lib/jvm/java-6-sun/lib/tools.jar:/home/hadoop:/home/hadoop \
/hadoop-0.18-core.jar:/home/hadoop/hadoop-0.18-tools.jar:/home/hadoop/lib/*:/home/hadoop/lib/jetty-ext/* \
-Xmx1000m \
-Dhadoop.log.dir=/mnt/var/log/hadoop/steps/3 \
-Dhadoop.log.file=syslog \
-Dhadoop.home.dir=/home/hadoop \
-Dhadoop.id.str=hadoop \
-Dhadoop.root.logger=INFO,DRFA \
-Djava.io.tmpdir=/mnt/var/lib/hadoop/steps/3/tmp \
-Djava.library.path=/home/hadoop/lib/native/Linux-i386-32 \
org.apache.hadoop.mapred.JobShell \
/mnt/var/lib/hadoop/steps/3/mahout-core-0.5-SNAPSHOT.jar \
org.apache.mahout.cf.taste.hadoop.similarity.item.ItemSimilarityJob \
s3n://..../output/job_2011-01-24_23:09:29/aggregate_watched/ \
s3n://..../output/job_2011-01-24_23:09:29/similiar_items/ \
SIMILARITY_PEARSON_CORRELATION

参数哪里出错了呢？你可以在这里找到java类的定义：

https://hudson.apache.org/hudson/job/Mahout-Quality/javadoc/org/apache/mahout/cf/taste/hadoop/similarity/item/ItemSimilarityJob.html

Answer 1

这里有一些参考资料，来自boto这个库。

import boto.emr.connection as botocon

import boto.emr.step as step

con = botocon.EmrConnection(aws_access_key_id='', aws_secret_access_key='')

step = step.JarStep(name='Find similar items', jar='s3://mahout-core-0.6-job.jar', main_class='org.apache.mahout.cf.taste.hadoop.similarity.item.ItemSimilarityJob', action_on_failure='CANCEL_AND_WAIT', step_args=['--input', 's3://', '--output', 's3://', '--similarityClassname', 'SIMILARITY_PEARSON_CORRELATION'])

con.add_jobflow_steps('jflow', [step])

显然，你需要把mahout-core-0.6-job.jar这个文件上传到一个可以访问的s3位置。而且，输入和输出的文件也必须是可以访问的。

Answer 2

上面第2步提到的对boto的修复（也就是使用没有版本号的hadoop-streamin.jar文件）已经被合并到github的主分支中，具体在这个提交里：

https://github.com/boto/boto/commit/a4e8e065473b5ff9af554ceb91391f286ac5cac7

Answer 3

我找到了这个问题的解决办法：

1. 你需要在作业流程的参数中指定 Hadoop 版本为 0.20。
2. 你需要用 mahout-core-0.5-SNAPSHOT-job.jar 来运行 JAR 步骤，而不是用 mahout-core-0.5-SNAPSHOT.jar。
3. 如果你的作业流程中有额外的流处理步骤，你需要修复 boto 中的一个错误：
   1. 打开 boto/emr/step.py 文件。
   2. 把第 138 行改成 "return '/home/hadoop/contrib/streaming/hadoop-streaming.jar'"。
   3. 保存并重新安装 boto。

这是调用 job_flow 函数以使用 mahout 运行的方式：

jobid = emr_conn.run_jobflow(name = name, log_uri = 's3n://'+ main_bucket_name +'/emr-logging/', enable_debugging=1, hadoop_version='0.20', steps=[step1,step2])