如何在OS X上运行Hadoop?

3 投票
1 回答
888 浏览
提问于 2025-04-17 22:06

我有一台MacBook Pro。我觉得我成功安装了hadoop-streaming,但我不知道它到底安装在哪里,也不知道hdfs在哪里。我安装的是单节点版本。我用Python写代码,把mapper.py和reducer.py放在了桌面上,还把一个大文本文件也放在桌面上,我打算在这个文件上运行程序。我正在跟着这个教程 http://www.michael-noll.com/tutorials/writing-an-hadoop-mapreduce-program-in-python/,但问题是我不知道在教程中“将本地示例数据复制到HDFS”这一部分该输入什么路径。我已经成功单独运行了Python文件,并且使用的代码和教程里的是一样的。我是通过brew安装的Hadoop。

谢谢

1 个回答

1
which hadoop

或者

echo $HADOOP_HOME 

这条命令会告诉你安装的Hadoop的路径(前提是你按照所有安装步骤进行了操作)

你应该在存放要传输文件的目录下输入以下命令。或者你也可以直接输入文件的完整路径……

hadoop fs -copyFromLocal /local/path/file.txt /hdfs/path/file.txt

hadoop fs -put localfile1 localfile2 /user/hadoop/hadoopdir

更多示例可以在这里找到 @ [Hadoop Shell命令]:https://hadoop.apache.org/docs/r0.18.3/hdfs_shell.html#put

撰写回答