问答文章1 问答文章501 问答文章1001 问答文章1501 问答文章2001 问答文章2501 问答文章3001 问答文章3501 问答文章4001 问答文章4501 问答文章5001 问答文章5501 问答文章6001 问答文章6501 问答文章7001 问答文章7501 问答文章8001 问答文章8501 问答文章9001 问答文章9501

sqoop安装完毕,环境变量改了,hadoop环境变量也正确,但是就是一直显示不...

发布网友 发布时间:2022-04-22 21:47

我来回答

2个回答

懂视网 时间:2022-04-14 04:05

Sqoop是一个用来将Hadoop和关系型数据库中的数据相互转移的工具,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)

Sqoop是一个用来将Hadoop和关系型数据库中的数据相互转移的工具,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导入到Hadoop的HDFS中,也可以将HDFS的数据导入到关系型数据库中。

Sqoop的User Guide地址:

1:tar zxvf sqoop-1.1.0.tar.gz

2:修改配置文件 /home/hadoopuser/sqoop-1.1.0/conf/sqoop-site.xml

一般只需要修改如下几个项:

sqoop.metastore.client.enable.autoconnect
sqoop.metastore.client.autoconnect.url
sqoop.metastore.client.autoconnect.username
sqoop.metastore.client.autoconnect.password
sqoop.metastore.server.location
sqoop.metastore.server.port

3:

bin/sqoop help

bin/sqoop help import

4:

[hadoopuser@master sqoop-1.1.0]$ bin/sqoop import --connect jdbc:mysql://localhost/ppc --table data_ip --username kwps -P

Enter password:

11/02/18 10:51:58 ERROR sqoop.Sqoop: Got exception running Sqoop: java.lang.RuntimeException: Could not find appropriate Hadoop shim for 0.20.2

java.lang.RuntimeException: Could not find appropriate Hadoop shim for 0.20.2

at com.cloudera.sqoop.shims.ShimLoader.loadShim(ShimLoader.java:190)

at com.cloudera.sqoop.shims.ShimLoader.getHadoopShim(ShimLoader.java:109)

at com.cloudera.sqoop.tool.BaseSqoopTool.init(BaseSqoopTool.java:173)

at com.cloudera.sqoop.tool.ImportTool.init(ImportTool.java:81)

at com.cloudera.sqoop.tool.ImportTool.run(ImportTool.java:411)

at com.cloudera.sqoop.Sqoop.run(Sqoop.java:134)

at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:65)

at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:79)

at com.cloudera.sqoop.Sqoop.runSqoop(Sqoop.java:170)

at com.cloudera.sqoop.Sqoop.runTool(Sqoop.java:196)

at com.cloudera.sqoop.Sqoop.main(Sqoop.java:205)

解决办法:

默认情况下:

./hadoop-0.20.2/conf/hadoop-env.sh

# Extra Java runtime options. Empty by default.
# export HADOOP_OPTS=-server

需要更改成:

export HADOOP_OPTS="-Djava.net.preferIPv4Stack=true -Dsqoop.shim.jar.dir=/home/hadoopuser/sqoop-1.1.0/shims"

特别需要注意的是:

Sqoop目前在Apache 版本的Hadoop 0.20.2上是无法使用的。

目前只支持CDH 3 beta 2版本。所以如果想使用的话,得升级到 CDH 3 beta 2版本了。

“Sqoop does not run with Apache Hadoop 0.20.2. The only supported platform is CDH 3 beta 2. It requires features of MapReduce not available in the Apache 0.20.2 release of Hadoop. You should upgrade to CDH 3 beta 2 if you want to run Sqoop 1.0.0.”

这个问题 已经被Cloudera 标记为 Major Bug,希望能尽快解决吧。

linux

热心网友 时间:2022-04-14 01:13

第一个图不算是错误,他只是警告,不会影响使用.

需要检查下面两方面:

sqoop_home配置的时候后面不要加";".

目前的操作提示显示sqoop命令已经生效,使用sqoop --help尝试一下其他命令是否生效.

个人觉得学习或者使用hadoop生态圈还是装一个linux虚拟机比较好.

希望我的回答对你有所帮助,谢谢.

声明声明:本网页内容为用户发布,旨在传播知识,不代表本网认同其观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。E-MAIL:11247931@qq.com
饥荒巨鸟图腾有什么用 饥荒巨鸟图腾怎么激活 恐惧饥荒健康怎么回复 健康值系统详解 想在京东买32g内存卡,发个商品号给我吧 民族文化浅谈普米族的宗教信仰 iphone4s进入恢复模式后,过几十秒就自动关机 hdr10是什么意思(hdr10是什么) 郑州禧年化妆摄影学校的专业设置 乔迁择吉2022年属鸡4月最佳入新居日子? 变电站中110kv配电变压器最小多大容量? 黑枸杞的功效和作用? 2.9.0的hadoop用哪个版本的sqoop 用黑枸杞泡水喝对身体有哪些好处? Hadoop 2.0 跟Sqoop哪个版本比较匹配 ambari搭建Hadoop集群,sqoop问题 黑枸杞泡茶有什么好处 Sqoop工作原理是什么? hadoop3.0和sqoop兼容吗? 怎么样瘦点大腿上的肌肉,怎么瘦腿 怎么样瘦肌肉型大腿 大腿全是肌肉怎么瘦? 怎么瘦大腿,或紧致大腿肌肉? 怎样减掉大腿的肌肉? 怎样减掉大腿的肌肉 急! 怎样减大腿 肌肉? 如何瘦大腿上的肌肉 怎样瘦去大腿上的肌肉 怎么样减腿上的肌肉 如何瘦大腿肌肉? 怎样瘦大腿肌肉? 黑枸杞的功效与禁忌? hadoop+sqoop 实现mysql数据导入HDFS hadoop平台:sqoop从hdfs导出数据时可以指定数据范围吗? hadoop什么意思 如何利用Apache Sqoop在DB2与Hadoop之间传递数据 hadoop到底是什么? sqlserver 通过sqoop导入hadoop时identifier enclose怎么设定 怎么通过sqoop将hdfs上数据导入到mysql 我在linux的hadoop1.2.1上安装sqoop1.99.3,命令sqoop.sh server stop命... sqoop需要分发到hadoop其它节点吗 什么是 sqoop sqoop1.4.5,Hadoop2.4.0,sqoop报错Error: Could not find or load main class org.apache.sqoop.Sqoop 苹果电脑页面上出现一个文件夹怎么办连接网络打不上字? 苹果电脑 开机出现一个问号的文件夹。是怎么回事? mac电脑如何查看一个文件夹里面有多少个文件? 苹果电脑如何进入文件夹 苹果电脑开机白屏显示一个带问号的文件夹是怎么回事 苹果笔记本电脑开机显示文件夹怎么办 断缴过社保,后来又补上了,对买房有影响吗 杭州社保补缴一个月,影响购房资格吗