1. HDFS
定义：HDFS(Hadoop Distributed File System),它是一个文件系统，用于存储文件，通过目录树来定位文件，它是分布式的，由很多服务器联合起来实现其功能。
场景：适合一次写入，多次读出的场景，且不支持文件的修改，适合用来做数据分析，不适合做网盘应用。
优点：1. 高容错性(数据保存多个副本，某个副本丢失后，可自动恢复)，2. 适合处理大数据，3. 可构建在廉价的机器上，通过多副本，提高可靠性。
缺点：1. 不适合做低延时数据访问。2. 无法高效的对大量小文件进行存储。3. 不支持并发写入和文件的随机修改。
1.1 HDFS写入流程
1）客户端通过Distributed FileSystem模块向NameNode请求上传文件，NameNode检查目标文件是否已存在，父目录是否存在。
2）NameNode返回是否可以上传。
3）客户端请求第一个 Block上传到哪几个DataNode服务器上。
4）NameNode返回3个DataNode节点，分别为dn1、dn2、dn3。
5）客户端通过FSDataOutputStream模块请求dn1上传数据，dn1收到请求会继续调用dn2，然后dn2调用dn3，将这个通信管道建立完成。
6）dn1、dn2、dn3逐级应答客户端。
7）客户端开始往dn1上传第一个Block（先从磁盘读取数据放到一个本地内存缓存），以Packet为单位，dn1收到一个Packet就会传给dn2，dn2传给dn3；dn1每传一个packet会放入一个应答队列等待应答。
8）当一个Block传输完成之后，客户端再次请求NameNode上传第二个Block的服务器。（重复执行3-7步）。
1.2 HDFS读取流程
1）客户端通过Distributed FileSystem向NameNode请求下载文件，NameNode通过查询元数据，找到文件块所在的DataNode地址。
2）挑选一台DataNode（就近原则，然后随机）服务器，请求读取数据。
3）DataNode开始传输数据给客户端（从磁盘里面读取数据输入流，以Packet为单位来做校验）。
4）客户端以Packet为单位接收，先在本地缓存，然后写入目标文件。
1.3 NameNode和Secondary NameNode 工作原理
Fsimage文件：HDFS系统元数据的一个永久性检查点，包含HDFS的所有目录和文件inode序列化信息。
Edits文件：存放HDFS文件系统的所有更新操作的路径，文件系统客户端执行的所有操作首先会被记录到Edits文件中。
- 第一阶段：NameNode启动
（1）第一次启动NameNode格式化后，创建Fsimage和Edits文件。如果不是第一次启动，直接加载编辑日志和镜像文件到内存。
（2）客户端对元数据进行增删改的请求。
（3）NameNode记录操作日志，更新滚动日志。
（4）NameNode在内存中对元数据进行增删改。 - 第二阶段：Secondary NameNode工作
（1）Secondary NameNode询问NameNode是否需要CheckPoint。直接带回NameNode是否检查结果。
（2）Secondary NameNode请求执行CheckPoint。
（3）NameNode滚动正在写的Edits日志。
（4）将滚动前的编辑日志和镜像文件拷贝到Secondary NameNode。
（5）Secondary NameNode加载编辑日志和镜像文件到内存，并合并。
（6）生成新的镜像文件fsimage.chkpoint。
（7）拷贝fsimage.chkpoint到NameNode。
（8）NameNode将fsimage.chkpoint重新命名成fsimage。
1.4 DataNode工作原理
1）一个数据块在DataNode上以文件形式存储在磁盘上，包括两个文件，一个是数据本身，一个是元数据包括数据块的长度，块数据的校验和，以及时间戳。
2）DataNode启动后向NameNode注册，通过后，周期性（1小时）的向NameNode上报所有的块信息。
3）心跳是每3秒一次，心跳返回结果带有NameNode给该DataNode的命令如复制块数据到另一台机器，或删除某个数据块。如果超过10分钟没有收到某个DataNode的心跳，则认为该节点不可用。
4）集群运行中可以安全加入和退出一些机器。
1.5 服役新数据节点
1）为节点配置集群环境
2）启动DataNode sbin/hadoop-daemon.sh start datanode
3）启动NodeManager sbin/yarn-daemon.sh start nodemanager
1.6 退役旧数据节点
白名单方式：
在NameNode的hdfs-site.xml配置文件中增加dfs.hosts属性，white.hosts文件中为主机名称
<property><name>dfs.hosts</name><value>/opt/module/hadoop-2.7.2/etc/hadoop/white.hosts</value>
</property>
刷新NameNode节点
hdfs dfsadmin -refreshNodes
黑名单方式：
在NameNode的hdfs-site.xml配置文件中增加dfs.hosts.exclude属性,black.hosts文件中为要移除的主机名称
<property><name>dfs.hosts.exclude</name><value>/opt/module/hadoop-2.7.2/etc/hadoop/black.hosts</value>
</property>
刷新NameNode节点
hdfs dfsadmin -refreshNodes
如果数据不均衡，可以用命令实现集群的再平衡
sbin/start-balancer.sh
1.7 HDFS副本节点选择
- 第一个副本在client所在节点上，若客户端在集群外，则随机选择一个
- 第二个副本和第一个副本位于相同机架，随机节点
- 第三个副本位于不同机架，随机节点
1.8 Hadoop集群常用命令
1. 启动Hadoop集群
sbin/start-dfs.sh # 开启HDFS
sbin/start-yarn.sh # 开启YARN
2. FS的基本命令同Linux类似
hadoop fs -ls / # 显示根目录的信息
hadoop fs -mkdir -p /sanguo/shuguo # 新建/sanguo/shuguo文件夹
hadoop fs -moveFromLocal ./kongming.txt /sanguo/shuguo # 从本地剪切粘贴到HDFS
hadoop fs -appendToFile liubei.txt /sanguo/shuguo/kongming.txt # 追加一个文件到已经存在的文件末尾
hadoop fs -copyFromLocal README.txt / # 从本地文件系统中拷贝文件到HDFS路径去
hadoop fs -put ./zaiyiqi.txt /user/atguigu/test/ # 此命令等同于copyFromLocal
hadoop fs -copyToLocal /sanguo/shuguo/kongming.txt ./ # 从HDFS拷贝到本地
hadoop fs -get /sanguo/shuguo/kongming.txt ./ # 此命令等同于copyToLocal
-chgrp -chmod -chown -cp -mv -tail -rm -rmdir -du # 这些命令都和Linux相同