大数据技术 VMware虚拟机下安装hadoop1.x
沉沙 2018-09-29 来源 : 阅读 1629 评论 0

摘要:本篇教程探讨了大数据技术 VMware虚拟机下安装hadoop1.x,希望阅读本篇文章以后大家有所收获,帮助大家对大数据技术的理解更加深入。

本篇教程探讨了大数据技术 VMware虚拟机下安装hadoop1.x,希望阅读本篇文章以后大家有所收获,帮助大家对大数据技术的理解更加深入。

<

先说明一下我的开发环境: 
虚拟机:VMware8.0;
操作系统:CentOS6.4;
版本:jdk1.8;hadoop1.2.1
①下载hadoop1.2.1,网盘:链接://pan.baidu.com/s/1pKGWVG3 密码:cbvh   下载jdk1.8,网盘:链接://pan.baidu.com/s/1o8brEh8 密码:d64e
将 jdk-8u144-linux-x64.tar.gz 解压至 /home/wyt/jdk8 文件夹下,将 hadoop-1.2.1.tar.gz 解压至 /home/wyt/hadoop 文件夹下。
②配置jdk及hadoop环境变量:修改/etc/profile文件

vim /etc/profile//输入I,进入编辑模式


export JAVA_HOME=/home/wyt/jdk8
export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib
export HADOOP_HOME=/home/wyt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$JAVA_HOME/bin


//按Esc,按Shift,输入:wq
source /etc/profile //保存并退出

③测试

java,javac,java -version
hadoop

④修改hadoop配置文件


<!-- hadoop-env.sh -->export JAVA_HOME=/usr/java/jdk8

<!-- core-site.xml -->

  <property>
    <name>hadoop.tmp.dir</name>
    <value>/hadoop</value>
  </property>
  <property>
    <name>dfs.name.dir</name>
    <value>/hadoop/name</value>
  </property>
  <property>
    <name>fs.default.name</name>
    <value>hdfs://localhost:9000</value>
  </property>

<!-- hdfs-site.xml -->

<property>
<name>dfs.data.dir</name>
<value>/hadoop/data</value>
</property>

<!-- mapred-site.xml -->

<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>

并在hadoop安装目录下新建data、name、tmp文件夹。
⑤名称节点格式化,并查看运行状态

hadoop namenode -format
//cd 命令切换至 hadoop/bin/文件夹下,输入 ls 命令查看
start-all.sh
jps //查看运行状态,运行正常的话需要多次输入密码
//最后结果为://         Jps//         JobTracker//         NameNode//         DataNode//         SecondaryNameNode//         NodeManager 


⑥测试hdfs

//常用hdfs命令:
hadoop fs -ls /查看目录
hadoop fs -put a.txt /user/hadoop/放入
hadoop fs -cat /user/hadoop/a.txt 查看内容
hadoop fs -rmr /output:删除文件/文件夹

附:linux常用命令:

cd ..          //返回上级目录
cd ~         //返回Home目录
cd /          //返回根目录
cd var/     //进入var/文件夹下(使用tab)

su -         //超级管理员模式
ifconfig    //查看ip

附:其他常用linux操作软件:

//windows与虚拟机centos文件传输:
filezilla;Xftp 5;或者安装VMware Tools(可便捷使用剪切板及文件复制功能)
//脱离虚拟机centos输入命令行:
Xshell 5

   

本文由职坐标整理发布,学习更多的大数据技术相关知识,请关注职坐标大技术云计算大技术技术频道!

本文由 @沉沙 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 0
看完这篇文章有何感觉?已经有0人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论

您输入的评论内容中包含违禁敏感词

我知道了

助您圆梦职场 匹配合适岗位
验证码手机号,获得海同独家IT培训资料
选择就业方向:
人工智能物联网
大数据开发/分析
人工智能Python
Java全栈开发
WEB前端+H5

请输入正确的手机号码

请输入正确的验证码

获取验证码

您今天的短信下发次数太多了,明天再试试吧!

提交

我们会在第一时间安排职业规划师联系您!

您也可以联系我们的职业规划师咨询:

小职老师的微信号:z_zhizuobiao
小职老师的微信号:z_zhizuobiao

版权所有 职坐标-一站式AI+学习就业服务平台 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
 沪公网安备 31011502005948号    

©2015 www.zhizuobiao.com All Rights Reserved