大数据技术之Hadoop 关于hdfs中的core-site.xml,hdfs-site.xml,mapred-site.xml文件配置详解
沉沙 2018-09-21 来源 : 阅读 1635 评论 0

摘要:本篇教程探讨了大数据技术之Hadoop 关于hdfs中的core-site.xml,hdfs-site.xml,mapred-site.xml文件配置详解,希望阅读本篇文章以后大家有所收获,帮助大家对大数据技术的理解更加深入。

本篇教程探讨了大数据技术之Hadoop 关于hdfs中的core-site.xml,hdfs-site.xml,mapred-site.xml文件配置详解,希望阅读本篇文章以后大家有所收获,帮助大家对大数据技术的理解更加深入。

<

配置hadoop,主要是配置core-site.xml,hdfs-site.xml,mapred-site.xml三个配置文件,默认下来,这些配置文件都是空的,所以很难知道这些配置文件有哪些配置可以生效,上网找的配置可能因为各个hadoop版本不同,导致无法生效。浏览更多的配置,有两个方法:
1.选择相应版本的hadoop,下载解压后,搜索*.xml,找到core-default.xml,hdfs-default.xml,mapred-default.xml,这些就是默认配置,可以参考这些配置的说明和key,配置hadoop集群。
2.浏览apache官网,三个配置文件链接如下:
   //hadoop.apache.org/common/docs/current/core-default.html
   //hadoop.apache.org/common/docs/current/hdfs-default.html
   //hadoop.apache.org/common/docs/current/mapred-default.html
   这里是浏览hadoop当前版本号的默认配置文件,其他版本号,要另外去官网找。其中第一个方法找到默认的配置是最好的,因为每个属性都有说明,可以直接使用。另外,core-site.xml是全局配置,hdfs-site.xml和mapred-site.xml分别是hdfs和mapred的局部配置。
 
 
2       常用的端口配置2.1  HDFS端口
参数
 
描述
 
默认
 
配置文件
 
例子值
fs.default.name namenode
 
namenode RPC交互端口
 
8020
 
core-site.xml
 
hdfs://master:8020/
dfs.http.address
 
NameNode web管理端口
 
50070
 
hdfs- site.xml
 
0.0.0.0:50070
dfs.datanode.address
 
datanode 控制端口
 
50010
 
hdfs -site.xml
 
0.0.0.0:50010
dfs.datanode.ipc.address
 
datanode的RPC服务器地址和端口
 
50020
 
hdfs-site.xml
 
0.0.0.0:50020
dfs.datanode.http.address
 
datanode的HTTP服务器和端口
 
50075
 
hdfs-site.xml
 
0.0.0.0:50075

2.2  MR端口
参数
 
描述
 
默认
 
配置文件
 
例子值
mapred.job.tracker
 
job-tracker交互端口
 
8021
 
mapred-site.xml
 
hdfs://master:8021/
job
 
tracker的web管理端口
 
50030
 
mapred-site.xml
 
0.0.0.0:50030
mapred.task.tracker.http.address
 
task-tracker的HTTP端口
 
50060
 
mapred-site.xml
 
0.0.0.0:50060


2.3  其它端口
参数
 
描述
 
默认
 
配置文件
 
例子值
dfs.secondary.http.address
 
secondary NameNode web管理端口
 
50090
 
hdfs-site.xml
 
0.0.0.0:50090
             
             
   

本文由职坐标整理发布,学习更多的大数据技术相关知识,请关注职坐标大技术云计算大技术技术频道!

本文由 @沉沙 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 1
看完这篇文章有何感觉?已经有1人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论

您输入的评论内容中包含违禁敏感词

我知道了

助您圆梦职场 匹配合适岗位
验证码手机号,获得海同独家IT培训资料
选择就业方向:
人工智能物联网
大数据开发/分析
人工智能Python
Java全栈开发
WEB前端+H5

请输入正确的手机号码

请输入正确的验证码

获取验证码

您今天的短信下发次数太多了,明天再试试吧!

提交

我们会在第一时间安排职业规划师联系您!

您也可以联系我们的职业规划师咨询:

小职老师的微信号:z_zhizuobiao
小职老师的微信号:z_zhizuobiao

版权所有 职坐标-一站式IT培训就业服务领导者 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
 沪公网安备 31011502005948号    

©2015 www.zhizuobiao.com All Rights Reserved

208小时内训课程