zookeeper-3.4.5-cdh5.3.6

应用服务器tomcat Tomcat7.0

表3.1列出了hadoop集群中应用到的软件版本信息,这些软件也不能一股脑的分配在同一个机器上,所以需要对各个节点进行分配服务,合理的分配也是集群性能调优的一种方式。表2.2是本文测试环境中对于5台节点的角色分配,及各个节点的硬件配置信息。

 

表2.2 开发环境的硬件配置信息表

服务器名称及IP 软件配置 运行的服务 硬件配置

Namenode01

192.168.109.141 Jdk1.7

hadoop-2.5.0-cdh5.3.6 NameNode、 ResourceManager DFS-ZKFailoverController

Intel(R)Core(TM) i5 CPU,、4G内存,1T硬盘

Namenode02

192.168.109.142 Jdk1.7

hadoop-2.5.0-cdh5.3.6 NameNode、 ResourceManager DFS-ZKFailoverController(zkfc)、 Intel(R)Core(TM) i5

CPU,、4G内存,1T硬盘

Datanode01

192.168.109.143 Jdk1.7

hadoop-2.5.0-cdh5.3.6

zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain、 Intel(R)Core(TM)i5 CPU,、4G内存,1T  硬盘

Datanode02

192.168.109.144 Jdk1.7

hadoop-2.5.0-cdh5.3.6zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain Intel(R)Core(TM)i5 CPU,、4G内存,1T   硬盘

Datanode03

192.168.109.145 Jdk1.7

hadoop-2.5.0-cdh5.3.6

zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain Intel(R)Core(TM)i5 CPU,、4G内存,1T  硬盘

hadoop2.4.1以后对于hadoop的集群安全性能提高很大,主要是引进了HDFS-HA高可靠性和YARN-HA高可靠性,分别能够对NameNode和ResourceManager进行实时备份。所以本文的hadoop2.5.0可以设置2个或2个以上的主节点,本文基于稳定性和容错性的考虑设置了Namenode01和Namenode02为两个主节点,启动的时候自动选择一个作为active主节点,另外一个作为standby备用节点;安装Hbase时候也考虑到安全性问题,选择Namenode01和Namenode02两个主节点作为HMaster,可以在开启了一个HMaster的时候,同时开启一个HMaster作为备用,所以active主节点和standby备用主节点都是由zookeeper监控,并在active主节点出现问题的时候无缝切换到standby节点。Datanode01~03作为hadoop的3个子节点,完成HDFS分布式存储数据和job任务计算。表2.2中的第三列运行的服务分别对应于表2.3中的解释。

上一篇:java+mysql网上图书销售系统的设计与实现
下一篇:asp.net培训中心考试系统开发与建设

Android手机考勤平台的设计与实现

基于android的环境信息管理系统设计

java+mysql班级评优系统的设计实现

Python+mysql宠物领养平台的设计与实现

ASP.NET飞翔租贷汽车公司信...

基于激光超声检测金属材...

多频激励下典型非线性系统的振动特性研究

从政策角度谈黑龙江對俄...

上海居民的社会参与研究

STC89C52单片机NRF24L01的无线病房呼叫系统设计

酵母菌发酵生产天然香料...

浅论职工思想政治工作茬...

AES算法GPU协处理下分组加...

基于Joomla平台的计算机学院网站设计与开发

压疮高危人群的标准化中...

提高教育质量,构建大學生...

浅谈高校行政管理人员的...