大数据技术入门学习(8)Sqoop入门
沉沙 2018-10-08 来源 : 阅读 1095 评论 0

摘要:本篇教程探讨了大数据技术入门学习(8)Sqoop入门,希望阅读本篇文章以后大家有所收获,帮助大家对大数据技术的理解更加深入。

本篇教程探讨了大数据技术入门学习(8)Sqoop入门,希望阅读本篇文章以后大家有所收获,帮助大家对大数据技术的理解更加深入。

<

简介

Sqoop是一款开源的工具,主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql…)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。Sqoop项目开始于2009年,最早是作为Hadoop的一个第三方模块存在,后来为了让使用者能够快速部署,也为了让开发人员能够更快速的迭代开发,Sqoop独立成为一个Apache项目。

安装环境:
操作系统:ubuntu-16.04.3-desktop-amd64.iso
sqoop版本:sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz
Hadoop: hadoop-2.7.5.tar.gz
MySQL:5.7.15
注意:sqoop1与sqoop2完全不兼容,1.4.6及之前的版本是sqoop1,之后的是sqoop2

    下载并解压sqoop1.4.7
    请登录Linux系统(本教程是使用hadoop用户名登录),然后,在Linux的浏览器(一般自带的是火狐Firefox浏览器)中,打开本网页,点击sqoop下载地址,浏览器默认会被下载文件保存到当前登录用户的下载目录下面。
    下面执行以下命令

sudo tar -zxvf  sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz -C /usr/local #解压安装文件
cd /usr/local
sudo mv sqoop-1.4.7.bin__hadoop-2.6.0 sqoop #修改文件名
sudo chown -R hadoop:hadoop sqoop #修改文件夹属主,如果你当前登录用户名不是hadoop,请修改成你自己的用户名

    修改配置文件sqoop-env.sh

cd sqoop/conf/
cp sqoop-env-template.sh qoop-env.sh  #将sqoop-env-template.sh复制一份并命名为sqoop-env.sh
vim sqoop-env.sh #编辑sqoop-env.sh

修改sqoop-env.sh的如下信息

export HADOOP_COMMON_HOME=/usr/local/hadoop
export HADOOP_MAPRED_HOME=/usr/local/hadoop
export HBASE_HOME=/usr/local/hbase
export HIVE_HOME=/usr/local/hive
#export ZOOCFGDIR= #如果读者配置了ZooKeeper,也需要在此配置ZooKeeper的路径

    配置环境变量
    打开当前用户的环境变量配置文件:

vim ~/.bashrc

在配置文件第一行键入如下信息:

export SQOOP_HOME=/usr/local/sqoop
export PATH=$PATH:$SBT_HOME/bin:$SQOOP_HOME/bin
export CLASSPATH=$CLASSPATH:$SQOOP_HOME/lib

然后,执行下面命令让配置文件立即生效:

source ~/.bashrc

    将mysql驱动包拷贝到SQOOPHOME/lib下面要把MySQL驱动程序拷贝到

    SQOOP_HOME/lib目录下,首先请在Linux系统的浏览器中请点击mysql驱动包下载地址下载驱动包。下载mysql-connector-java-5.1.46.tar.gz后,下面执行命令拷贝文件:

sudo tar -zxvf  mysql-connector-java-5.1.46.tar.gz  #解压mysql驱动包
ls #这时就可以看到解压缩后得到的目录
cp ./mysql-connector-java-5.1.46/mysql-connector-java-5.1.46-bin.jar /usr/local/sqoop/lib

    测试与MySQL的连接

首先请确保mysql服务已经启动了,如果没有启动,请执行下面命令启动:

service mysql start

然后就可以测试sqoop与MySQL之间的连接是否成功:

sqoop list-databases --connect jdbc:mysql://127.0.0.1:3306/ --username root -P

mysql的数据库列表显示在屏幕上表示连接成功,如下图:
   

本文由职坐标整理发布,学习更多的大数据技术相关知识,请关注职坐标大技术云计算大技术技术频道!

本文由 @沉沙 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 0
看完这篇文章有何感觉?已经有0人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论

您输入的评论内容中包含违禁敏感词

我知道了

助您圆梦职场 匹配合适岗位
验证码手机号,获得海同独家IT培训资料
选择就业方向:
人工智能物联网
大数据开发/分析
人工智能Python
Java全栈开发
WEB前端+H5

请输入正确的手机号码

请输入正确的验证码

获取验证码

您今天的短信下发次数太多了,明天再试试吧!

提交

我们会在第一时间安排职业规划师联系您!

您也可以联系我们的职业规划师咨询:

小职老师的微信号:z_zhizuobiao
小职老师的微信号:z_zhizuobiao

版权所有 职坐标-一站式IT培训就业服务领导者 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
 沪公网安备 31011502005948号    

©2015 www.zhizuobiao.com All Rights Reserved

208小时内训课程