沉沙
2018-09-29
来源 :
阅读 1629
评论 0
摘要:本篇教程探讨了大数据技术 VMware虚拟机下安装hadoop1.x,希望阅读本篇文章以后大家有所收获,帮助大家对大数据技术的理解更加深入。
本篇教程探讨了大数据技术 VMware虚拟机下安装hadoop1.x,希望阅读本篇文章以后大家有所收获,帮助大家对大数据技术的理解更加深入。
<
先说明一下我的开发环境:
虚拟机:VMware8.0;
操作系统:CentOS6.4;
版本:jdk1.8;hadoop1.2.1
①下载hadoop1.2.1,网盘:链接://pan.baidu.com/s/1pKGWVG3 密码:cbvh 下载jdk1.8,网盘:链接://pan.baidu.com/s/1o8brEh8 密码:d64e
将 jdk-8u144-linux-x64.tar.gz 解压至 /home/wyt/jdk8 文件夹下,将 hadoop-1.2.1.tar.gz 解压至 /home/wyt/hadoop 文件夹下。
②配置jdk及hadoop环境变量:修改/etc/profile文件
vim /etc/profile//输入I,进入编辑模式
export JAVA_HOME=/home/wyt/jdk8
export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib
export HADOOP_HOME=/home/wyt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$JAVA_HOME/bin
//按Esc,按Shift,输入:wq
source /etc/profile //保存并退出
③测试
java,javac,java -version
hadoop
④修改hadoop配置文件
<!-- hadoop-env.sh -->export JAVA_HOME=/usr/java/jdk8
<!-- core-site.xml -->
<property>
<name>hadoop.tmp.dir</name>
<value>/hadoop</value>
</property>
<property>
<name>dfs.name.dir</name>
<value>/hadoop/name</value>
</property>
<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>
<!-- hdfs-site.xml -->
<property>
<name>dfs.data.dir</name>
<value>/hadoop/data</value>
</property>
<!-- mapred-site.xml -->
<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>
并在hadoop安装目录下新建data、name、tmp文件夹。
⑤名称节点格式化,并查看运行状态
hadoop namenode -format
//cd 命令切换至 hadoop/bin/文件夹下,输入 ls 命令查看
start-all.sh
jps //查看运行状态,运行正常的话需要多次输入密码
//最后结果为:// Jps// JobTracker// NameNode// DataNode// SecondaryNameNode// NodeManager
⑥测试hdfs
//常用hdfs命令:
hadoop fs -ls /查看目录
hadoop fs -put a.txt /user/hadoop/放入
hadoop fs -cat /user/hadoop/a.txt 查看内容
hadoop fs -rmr /output:删除文件/文件夹
附:linux常用命令:
cd .. //返回上级目录
cd ~ //返回Home目录
cd / //返回根目录
cd var/ //进入var/文件夹下(使用tab)
su - //超级管理员模式
ifconfig //查看ip
附:其他常用linux操作软件:
//windows与虚拟机centos文件传输:
filezilla;Xftp 5;或者安装VMware Tools(可便捷使用剪切板及文件复制功能)
//脱离虚拟机centos输入命令行:
Xshell 5
本文由职坐标整理发布,学习更多的大数据技术相关知识,请关注职坐标大技术云计算大技术技术频道!
喜欢 | 0
不喜欢 | 0
您输入的评论内容中包含违禁敏感词
我知道了

请输入正确的手机号码
请输入正确的验证码
您今天的短信下发次数太多了,明天再试试吧!
我们会在第一时间安排职业规划师联系您!
您也可以联系我们的职业规划师咨询:
版权所有 职坐标-一站式AI+学习就业服务平台 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
沪公网安备 31011502005948号