当前位置： 代码迷 >> 综合 >> Hadoop ----HDFS MapReduce
  详细解决方案

Hadoop ----HDFS MapReduce

热度：43   发布时间：2023-12-03 10:12:31.0

在这里插入图片描述

HDFS

NameNode

  • 负责管理DataNode
  • 保存所有的元数据(目录的位置结构 存储的磁盘位置)
  • 是HDFS的核心 是单点故障 一旦出现问题 整个HDFS不在对外提供服务·
  • edits 操作日志文件
  • fsimage元数据文件

SecondaryNameNode

  • 获取NameNode的数据延后将新的NameNode数据进行合并 然后再次写入NameNode中

DataNode

  • 负责数据的存储
  • 数据是按块存储的 hadoop 2.XXX以后 128M
  • DataNode定时（心跳机制） 将自己的状态信息告知 NameNode

副本

  • 对DataNode中的数据块的数据进行备份
  • 默认备份数量是3个
    在这里插入图片描述

归档

打包文件

hadoop archive -archiveName test.har -p /input /outfile

查看

hdfs dfs -ls har:///outfile/test.har

恢复

hdfs dfs -cp har:///outfile/test.har/1.txt /aaa

namenode下的元数据

  • 内存元数据 在服务运行过程中的元数据会保存在内存中 方便快速进行数据操作
  • 文件元数据 按照指定规则去将内存中的元数据持久化的以文件的形式保存在磁盘上
    • edits 编辑文件数据 保存了所有的文件操作
# 文件查看
hdfs oev -i edits文件 -o 输出文件
  • fsimage 文件，保存了文件信息，数据的磁盘路径信息不在fsimage中保存，有datanode定时告知给namenode
# 文件查看
hdfs oiv  -i fsimage文件 -p 执行文件类型xml -o 输出文件
  • /excpet/data/hadoop
    • dfs/data name secondayname

在这里插入图片描述

安全机制

- 一旦安全机制被触发就不能执行事务操作，删除、创建、移动。读取数据不受影响
- 副本数量小于1。 副本在没有被创建，删除了数据，
- 副本创建的数量比例不能小于0.999
- 在条件满足后需要等待30s退出安全机制

MapReduce 分而治之

  • Map 负责拆分
  • Reduce 负责合并

词频计算
1、创建一个1.txt写入一些单词

2、文件上传到input目录

3、进入/export/server/hadoop-3.3.0/share/hadoop/mapreduce

4、执行 hadoop jar hadoop-mapreduce-examples-3.3.0.jar wordcount /input /output

5、执行查看 hdfs dfs -cat /output/part-r-00000

hadoop jar /export/server/hadoop-3.3.0/share/hadoop/tools/lib/hadoop-streaming-3.3.0.jar -D mapred.reduce.tasks=1 -mapper "python mapper.py" -reducer "python reducer.py" -file /root/mapper.py -file /root/reducer.py -input /input/*  -output /outpy

YARN

1.功能作用说明

独立的资源管理平台 协调各个主机的资源(内存 CPU 磁盘)
可以服务多个分布式系统 hadoop sqark

2.三大组件

namenode NN datanode DN secondarynamendoe snn
RecourseManager 需要在主机上进行启动服务 RM

  • 负责协调各个主机资源

NodeManager 需要在主机上进行启动服务 NM

  • 负责监控本机资源状态 汇报给RecourseManager

ApplicationMaster 在进行计算时生成对应进程 AM

  • 完成具体的资源计算调度，会找RecourseManager申请资源 在计算程序中 在计算程序中给计算程序指定相应的资源内容，计算完成后释放资源。

3.yarn调度流程

  1. 计算请求RM （RecourseManager）
  2. 生成AM（ApplicationMaster ） 管理每个计算资源
  3. AM评估当前计算需要的资源大小
  4. AM向MR申请资源 资源由RM进行资源调度
  5. Am进行资源计算分配，Map 和 Reduce分别得到对应的计算进行机选操作
  6. contain监控每个计算构成消耗资源情况
  7. 计算结束后AM释放资源并通知AM
  8. RM结束AM
    在这里插入图片描述

4.调度机制

1.FIFO（first in first out） 先进先出 队形形式

在这里插入图片描述

2.**capacity 容量分配 **

在这里插入图片描述

3.pair 公平分配

在这里插入图片描述

4.Hadoop 配置文件 信息说明

hadoop_env.sh 配置用户 配置java环境core_site.xml 配置核心功能 数据存储位置 ，主节点位置hdfs_site.xmlmapred_site.xmlyarn_site.xmlworks 指定运行的主机名称

Hadoop的HA(High Available) 高可用

活动节点

备用节点

活动节点对外提供服务，当活动节点宕机后启用备用节点

hadoop实现高可用是对应HDFS和YARN服务是按高可用节点管理

HDFS服务主要使用NameNode节点

YARN服务主要使用ResourceManager节点

  • Hadoop 2.xxx 高可用配置
1.修改Linux主机名
2.修改IP
3.修改主机名和IP的映射关系 /etc/hosts
4.关闭防火墙
5.ssh免登陆
6.安装JDK，配置环境变量等
7.注意集群时间要同步集群部署节点角色的规划（7节点）------------------server01   namenode   zkfcserver02   namenode   zkfcserver03   resourcemanagerserver04   resourcemanagerserver05   datanode   nodemanager      zookeeper     journal nodeserver06   datanode   nodemanager      zookeeper     journal node server07   datanode   nodemanager      zookeeper     journal node ------------------集群部署节点角色的规划（3节点）------------------server01   namenode    resourcemanager  zkfc   nodemanager  datanode   zookeeper   journal nodeserver02   namenode    resourcemanager  zkfc   nodemanager  datanode   zookeeper   journal nodeserver03   datanode    nodemanager     zookeeper    journal node------------------
---------------------------------------------------------------------------------------------------------------	
安装步骤：1.安装配置zooekeeper集群1.1解压tar -zxvf zookeeper-3.4.5.tar.gz -C /home/hadoop/app/1.2修改配置cd /home/hadoop/app/zookeeper-3.4.5/conf/cp zoo_sample.cfg zoo.cfgvim zoo.cfg修改：dataDir=/home/hadoop/app/zookeeper-3.4.5/tmp在最后添加：server.1=hadoop05:2888:3888server.2=hadoop06:2888:3888server.3=hadoop07:2888:3888保存退出然后创建一个tmp文件夹mkdir /home/hadoop/app/zookeeper-3.4.5/tmpecho 1 > /home/hadoop/app/zookeeper-3.4.5/tmp/myid1.3将配置好的zookeeper拷贝到其他节点(首先分别在hadoop06、hadoop07根目录下创建一个hadoop目录：mkdir /hadoop)scp -r /home/hadoop/app/zookeeper-3.4.5/ hadoop06:/home/hadoop/app/scp -r /home/hadoop/app/zookeeper-3.4.5/ hadoop07:/home/hadoop/app/注意：修改hadoop06、hadoop07对应/hadoop/zookeeper-3.4.5/tmp/myid内容hadoop06：echo 2 > /home/hadoop/app/zookeeper-3.4.5/tmp/myidhadoop07：echo 3 > /home/hadoop/app/zookeeper-3.4.5/tmp/myid2.安装配置hadoop集群2.1解压tar -zxvf hadoop-2.6.4.tar.gz -C /home/hadoop/app/2.2配置HDFS（hadoop2.0所有的配置文件都在$HADOOP_HOME/etc/hadoop目录下）#将hadoop添加到环境变量中vim /etc/profileexport JAVA_HOME=/usr/java/jdk1.7.0_55export HADOOP_HOME=/hadoop/hadoop-2.6.4export PATH=$PATH:$JAVA_HOME/cluster1n:$HADOOP_HOME/cluster1n#hadoop2.0的配置文件全部在$HADOOP_HOME/etc/hadoop下cd /home/hadoop/app/hadoop-2.6.4/etc/hadoop2.2.1修改hadoop-env.shexport JAVA_HOME=/home/hadoop/app/jdk1.7.0_55###############################################################################2.2.2修改core-site.xml
<configuration><!-- HA集群名称，该值要和hdfs-site.xml中的配置保持一致 --><property><name>fs.defaultFS</name><value>hdfs://cluster1</value></property><!-- hadoop本地磁盘存放数据的公共目录 --><property><name>hadoop.tmp.dir</name><value>/export/data/ha-hadoop</value></property><!-- ZooKeeper集群的地址和端口--><property><name>ha.zookeeper.quorum</name><value>node1:2181,node2:2181,node3:2181</value></property>
</configuration>###############################################################################2.2.3修改hdfs-site.xml
<configuration><!--指定hdfs的nameservice为cluster1，需要和core-site.xml中的保持一致 --><property><name>dfs.nameservices</name><value>cluster1</value></property><!-- cluster1下面有两个NameNode，分别是nn1，nn2 --><property><name>dfs.ha.namenodes.cluster1</name><value>nn1,nn2</value></property><!-- nn1的RPC通信地址 --><property><name>dfs.namenode.rpc-address.cluster1.nn1</name><value>node1:8020</value></property><!-- nn1的http通信地址 --><property><name>dfs.namenode.http-address.cluster1.nn1</name><value>node1:50070</value></property><!-- nn2的RPC通信地址 --><property><name>dfs.namenode.rpc-address.cluster1.nn2</name><value>node2:8020</value></property><!-- nn2的http通信地址 --><property><name>dfs.namenode.http-address.cluster1.nn2</name><value>node2:50070</value></property><!-- 指定NameNode的edits元数据在JournalNode上的存放位置 --><property><name>dfs.namenode.shared.edits.dir</name><value>qjournal://node1:8485;node2:8485;node3:8485/cluster1</value></property><!-- 指定JournalNode在本地磁盘存放数据的位置 --><property><name>dfs.journalnode.edits.dir</name><value>/export/data/journaldata</value></property><!-- 开启NameNode失败自动切换 --><property><name>dfs.ha.automatic-failover.enabled</name><value>true</value></property><!-- 指定该集群出故障时，哪个实现类负责执行故障切换 --><property><name>dfs.client.failover.proxy.provider.cluster1</name><value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value></property><!-- 配置隔离机制方法--><property><name>dfs.ha.fencing.methods</name><value>sshfence</value></property><!-- 使用sshfence隔离机制时需要ssh免登陆 --><property><name>dfs.ha.fencing.ssh.private-key-files</name><value>/root/.ssh/id_rsa</value></property><!-- 配置sshfence隔离机制超时时间 --><property><name>dfs.ha.fencing.ssh.connect-timeout</name><value>30000</value></property>
</configuration>###############################################################################2.2.4修改mapred-site.xml
<configuration>
<!-- 指定mr框架为yarn方式 -->
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>	###############################################################################2.2.5修改yarn-site.xml
<configuration>
<!-- 开启RM高可用 -->
<property>
<name>yarn.resourcemanager.ha.enabled</name>
<value>true</value>
</property>
<!-- 指定RM的cluster id -->
<property>
<name>yarn.resourcemanager.cluster-id</name>
<value>yrc</value>
</property>
<!-- 指定RM的名字 -->
<property>
<name>yarn.resourcemanager.ha.rm-ids</name>
<value>rm1,rm2</value>
</property>
<!-- 分别指定RM的地址 -->
<property>
<name>yarn.resourcemanager.hostname.rm1</name>
<value>node1</value>
</property>
<property>
<name>yarn.resourcemanager.hostname.rm2</name>
<value>node2</value>
</property>
<!-- 指定zk集群地址 -->
<property>
<name>yarn.resourcemanager.zk-address</name>
<value>node1:2181,node2:2181,node3:2181</value>
</property>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
</configuration>2.2.6修改slaves(slaves是指定子节点的位置，因为要在hadoop01上启动HDFS、在hadoop03启动yarn，所以hadoop01上的slaves文件指定的是datanode的位置，hadoop03上的slaves文件指定的是nodemanager的位置)
hadoop05
hadoop06
hadoop072.2.7配置免密码登陆#首先要配置hadoop00到hadoop01、hadoop02、hadoop03、hadoop04、hadoop05、hadoop06、hadoop07的免密码登陆#在hadoop01上生产一对钥匙ssh-keygen -t rsa#将公钥拷贝到其他节点，****包括自己****ssh-coyp-id hadoop00ssh-coyp-id hadoop01ssh-coyp-id hadoop02ssh-coyp-id hadoop03ssh-coyp-id hadoop04ssh-coyp-id hadoop05ssh-coyp-id hadoop06ssh-coyp-id hadoop07#注意：两个namenode之间要配置ssh免密码登陆  ssh远程补刀时候需要###注意：严格按照下面的步骤!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!2.5启动zookeeper集群（分别在hadoop05、hadoop06、tcast07上启动zk）bin/zkServer.sh start#查看状态：一个leader，两个followerbin/zkServer.sh status2.6手动启动journalnode（分别在在hadoop05、hadoop06、hadoop07上执行）hadoop-daemon.sh start journalnode#运行jps命令检验，hadoop05、hadoop06、hadoop07上多了JournalNode进程2.7格式化namenode#在hadoop00上执行命令:hdfs namenode -format#格式化后会在根据core-site.xml中的hadoop.tmp.dir配置的目录下生成个hdfs初始化文件，把hadoop.tmp.dir配置的目录下所有文件拷贝到另一台namenode节点所在的机器scp -r tmp/ hadoop02:/home/hadoop/app/hadoop-2.6.4/##也可以这样，建议hdfs namenode -bootstrapStandby2.8格式化ZKFC(在active上执行即可)hdfs zkfc -formatZK2.9启动HDFS(在hadoop00上执行)start-dfs.sh2.10启动YARN   start-yarn.sh还需要手动在standby上手动启动备份的  resourcemanageryarn-daemon.sh start resourcemanager到此，hadoop-2.6.4配置完毕，可以统计浏览器访问:http://hadoop00:50070NameNode 'hadoop01:9000' (active)http://hadoop01:50070NameNode 'hadoop02:9000' (standby)验证HDFS HA首先向hdfs上传一个文件hadoop fs -put /etc/profile /profilehadoop fs -ls /然后再kill掉active的NameNodekill -9 <pid of NN>通过浏览器访问：http://192.168.1.202:50070NameNode 'hadoop02:9000' (active)这个时候hadoop02上的NameNode变成了active在执行命令：hadoop fs -ls /-rw-r--r--   3 root supergroup       1926 2014-02-06 15:36 /profile刚才上传的文件依然存在！！！手动启动那个挂掉的NameNodehadoop-daemon.sh start namenode通过浏览器访问：http://192.168.1.201:50070NameNode 'hadoop01:9000' (standby)验证YARN：运行一下hadoop提供的demo中的WordCount程序：hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.4.1.jar wordcount /profile /outOK，大功告成！！！测试集群工作状态的一些指令 ：hdfs dfsadmin -report	 查看hdfs的各节点状态信息cluster1n/hdfs haadmin -getServiceState nn1		 获取一个namenode节点的HA状态scluster1n/hadoop-daemon.sh start namenode  单独启动一个namenode进程./hadoop-daemon.sh start zkfc   单独启动一个zkfc进程

在这里插入图片描述

hadoop的HDFS对应一个namenode节点

实现高可用至少需要两个hadoop服务

使用zookeeper完成hadoop 的高可用主要用到了zookeeper的什么功能？

监听机制

临时节点

节点的唯一性

使用zkfc进程监控nn节点并且去连接zk进行状态更新

保证两个主备服务间的数据一致（QJM/Quorum Journal Manager）

hadoop资源调度服务有一个resourcemanager节点

使用zk实现resourcemanager节点的切换

resourcemanager本身不需要存储大量数据，可以直接把一些临时数据和一些nodemanager的信息存到zk

数据同步需要用zk的全局数据一致性
在这里插入图片描述

  相关解决方案

代码迷 - 您身边的软件异常，代码异常，编程异常助手（发现，解决，分享）
Copyright © 2009-2013 DAIMAMI.COM. All rights reserved.