问答文章1 问答文章501 问答文章1001 问答文章1501 问答文章2001 问答文章2501 问答文章3001 问答文章3501 问答文章4001 问答文章4501 问答文章5001 问答文章5501 问答文章6001 问答文章6501 问答文章7001 问答文章7501 问答文章8001 问答文章8501 问答文章9001 问答文章9501

如何在win7系统上安装hadoop用cygwin 博客园

发布网友 发布时间:2022-04-30 11:08

我来回答

1个回答

热心网友 时间:2022-06-21 13:49

环境及软件准备:
win7(64位)

cygwin 1.7.9-1

jdk-6u25-windows-x64.zip

hadoop-0.20.2.tar.gz

1.安装jdk,并置java环境变量包括:JAVA_HOME,PATH,CLASSPATH

2.安装Hadoop,版本为0.20.2,我是直接放到/home目录下,并解压
tar –zxvf
hadoop-0.20.2.tar.gz

3.配置Hadoop,需要修改hadoop的配置文件,它们位于conf子目录下,分别是hadoop-env.sh、core-site.xml、hdfs-site.xml
和mapred-site.xml

(1) 修改hadoop-env.sh:

只需要将JAVA_HOME 修改成JDK 的安装目录即可

export
JAVA_HOME=/cygdrive/d/java/jdk1.6.0_25

(注意:路径不能是windows 风格的目录d:\java\jdk1.6.0_25,而是LINUX
风格/cygdrive/d/java/jdk1.6.0_25)

(2) 修改core-site.xml:(指定namenode)

<configuration>

<property>

<name>fs.default.name</name>

<value>hdfs://localhost:9000</value>

</property>

</configuration>
(3)修改hdfs-site.xml(指定副本为1)

<configuration>

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

</configuration>
(4) 修改mapred-site.xml (指定jobtracker)

<configuration>

<property>

<name>mapred.job.tracker</name>

<value>localhost:9001</value>

</property>

</configuration>
4.验证安装是否成功,并运行Hadoop

(1) 验证安装

$ bin/hadoop

Usage: hadoop [--config confdir] COMMAND

where COMMAND is one of:

namenode -format format the DFS filesystem

secondarynamenode run the DFS secondary namenode

namenode run the DFS namenode

datanode run a DFS datanode

dfsadmin run a DFS admin client

mradmin run a Map-Rece admin client

fsck run a DFS filesystem checking utility

fs run a generic filesystem user client

balancer run a cluster balancing utility

jobtracker run the MapRece job Tracker node

pipes run a Pipes job

tasktracker run a MapRece task Tracker node

job manipulate MapRece jobs

queue get information regarding JobQueues

version print the version

jar <jar> run a jar file

distcp <srcurl> <desturl> copy file or directories recursively

archive -archiveName NAME <src>* <dest> create a hadoop archive

daemonlog get/set the log level for each daemon

or

CLASSNAME run the class named CLASSNAME

Most commands print help when invoked w/o parameters.
(2) 格式化并启动Hadoop

bi
声明声明:本网页内容为用户发布,旨在传播知识,不代表本网认同其观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。E-MAIL:11247931@qq.com
说课包括哪些方面 说课内容包括()。 如何在手机百度上删除对话记录? 结核病是什么样的疾病? 曹丕17岁得了肺痨,明知自己命不长久,还要强争王位,是不是很自私呢?_百... 古代小说常出现的病名 急求一篇"生活小窍门"(500字)的作文 至今最有什么小妙招 健康的戒烟方法 笔记本电池锁死是什么原因引起的? 在Windows上运行Hadoop,配置好java,cygwin,hadoop之后,要怎么做_百 ... 因为hdfs 有多个副本,所以 namenode 是不存在单点问题的 win7 hadoop的zlib怎么安装 win7怎么安装hadoop?谢谢! 如何配置Spring及验证mapreduce hadoop有类似man的命令吗 Hadoop与Spark等数据处理系统哪个是最好的 如何查看hadoop mapreduce 性能 hadoop和spark哪个好 distcp hadoop 必须所有节点互通吗 如何hadoop distcp ftp目录中部分文件 如何进入hdfs模式 使用hadoop distcp命令 中小学教师资格证考试综合素质评分标准 教师资格证面试评分标准是什么 教师资格证面试评分标准小学 教师资格证笔试评分标准 教师资格面试评分标准有哪些? 怎么加好友 百度手机浏览器都有什么实用功能? 百度浏览器好用吗?还真不好用! 自考本科要交哪些费用 苏州自考本科一般需要多少钱 苏州自考培训班学费需要多少 苏大专转本小自考一般一年要多少费用? “的”英语单词怎么写? “的”英语单词怎么读? 所有的英语单词是什么? 的 的英语单词是什么 什么的英语单词是? 墙纸贴花怎么贴 贴墙纸贴花的注意事项 极好的 的英文单词是什么? 书的单词是什么? 贴墙纸的方法和详细步骤 是的单词? 英语的单词是什么 英语的单词是什么? 家里贴的墙纸,我想给覆盖了变成白墙,怎么弄 是的英文单词是什么 我的单词是什么 也的单词是什么