ITPub博客

扫盲:Hadoop分布式文件系统(HDFS)基础概念讲解!

原创 Hadoop 作者:赵钰莹 时间:2018-08-09 17:17:53 0 删除 编辑

无论你如何将Hadoop与Spark进行对比,无论Spark生态多么成熟和完善,其底层终归要基于HDFS,毕竟这是目前最成熟的分布式底层文件系统,几乎没有哪家公司愿意重新花费精力研发一个全新的文件系统。

本文将讨论Hadoop分布式文件系统(HDFS)的基本概念以及管理HDFS的十大Hadoop Shell命令。HDFS是Apache Hadoop框架的底层文件系统,是一个分布式存储框架,跨越数千种商用硬件。该文件系统提供容错、高吞吐、流数据访问以及高可靠性等功能。HDFS的体系架构适用于存储大量数据及快速处理,HDFS是Apache生态系统的一部分。

在此之前,我们先来了解Apache Hadoop框架,其主要包含以下几大模块:

  • Hadoop Common——包含Hadoop其他模块所需的库和实用程序;

  • HDFS——商用机存储数据的分布式文件系统,在集群中提供非常高的聚合带宽;

  • Hadoop YARN ——资源管理平台,负责管理集群上的计算资源并使用它们调度用户应用程序;

  • Hadoop MapReduce——用于大规模数据处理的编程模型。

Hadoop中的所有模块都设计了一个基本假设,即硬件故障(单个机器或整个机架)是显而易见的,因此应由Hadoop框架在软件应用程序中自动处理,Apache Hadoop的HDFS组件最初来自Google的MapReduce和Google File System(GFS)。

HDFS是Hadoop应用程序使用的主要分布式存储,HDFS集群主要由NameNode和DataNode组成。NameNode管理文件系统元数据,DataNode用于存储实际数据。

HDFS架构图解释了NameNode、DataNode和客户端之间的基本交互,客户端组件调用NameNode以获取文件元数据或修改,客户端直接使用DataNodes执行实际的文件I / O操作。HDFS可能存在一些用户感兴趣的显著特征:

1、非常适合使用低成本商用硬件进行分布式存储和处理。Hadoop具有可扩展性,容错性且易于扩展。MapReduce以其大量分布式应用程序的简单性和适用性而著称。HDFS则具有高度可配置性,默认配置足以满足大多数应用程序的需求。通常,仅需要针对非常大的集群调整默认配置;

2、Hadoop是基于Java平台编写的,几乎在所有主要平台上都受支持;

3、Hadoop支持shell和shell类命令与HDFS的通信;

4、NameNode和DataNode具有内置Web服务器,可以轻松检查集群的当前状态;

5、HDFS中经常实现新的功能和更新,以下列表是HDFS中可用的功能子集:

  • 文件权限和身份验证;

  • Rackawareness:有助于在计划任务和分配存储时考虑节点的物理位置;

  • Safemode:管理主要用于维护的模式;

  • fsck:这是一个实用程序,用于诊断文件系统的运行状况以及查找丢失的文件或块;

  • fetchdt:这是一个用于获取DelegationToken并将其存储在本地系统文件中的实用程序;

  • Rebalancer:当数据在DataNode之间分布不均时,这是一个用于平衡集群的工具;

  • 升级和回滚:软件升级后,可以在升级前回滚到上一状态,以防出现任何意外;

  • SecondaryNameNode:此节点执行命名空间的Checkpoint,并帮助将包含HDFS修改日志的文件大小保持在NameNode的特定限制内;

  • Checkpoint节点:此节点执行命名空间的Checkpoint,并有助于最小化存储在NameNode中的日志大小,其中包含对HDFS所做的更改,它还替换了以前由Secondary NameNode填充的角色或功能。作为替代方案,NameNode允许多个节点作为Checkpoint,只要系统没有可用(注册)的备份节点即可;

  • Backup节点:可以将其定义为Checkpoint节点的扩展。除了Checkpoint之外,它还用于从NameNode接收编辑流。因此,它维护自己命名空间的内存副本,始终与活动的NameNode和命名空间状态同步,一次只允许向NameNode注册一个备份节点。

HDFS的设计目标

Hadoop的目标是在非常大的集群中使用常用服务器,并且每个服务器都有一组廉价内部磁盘驱动器。为了获得更好的性能,MapReduce API尝试在存储要处理的数据的服务器上分配工作负载,这称为数据局部性。因此,在Hadoop环境中,建议不要使用 区域存储网络(SAN)或网络直接存储(NAS) 。对于使用SAN或NAS的Hadoop部署,额外的网络通信开销可能会导致性能瓶颈,尤其是在集群规模较大的情况下。

假设,我们目前拥有1000台机器集群,每台机器都有三个内部磁盘驱动器。因此,请考虑由3000个廉价驱动器+ 1000个廉价服务器组成的集群的故障率,这个数值会非常大!不过,好在廉价硬件相关的MTTF故障率实际上已被很好地理解和接受,这让用户对Hadoop的包容性变得很高。Hadoop具有内置的容错和故障补偿功能,HDFS也是如此,因为数据被分成块,这些块的副本存储在Hadoop集群的其他服务器上。为了使其易于理解,我们可以说单个文件实际上存储为较小的块,这些块在整个集群中的多个服务器之间进行复制,以便更快地访问文件。

我们可以考虑一个应用场景,假设我们现在需要存储某区域内所有居民的电话号码,将姓氏以A开头的存储在服务器1上,以B开头的在服务器2上,依此类推。在Hadoop环境中,此电话簿的各个部分将分布式存储在整个集群中。如果要重建整个电话簿的数据,程序需要访问集群中每个服务器的块。为了实现更高的可用性,HDFS默认将较小的数据复制到另外两台服务器上。这里会涉及到冗余的概念,但支持冗余是为了避免故障并提供容错解决方案,可以基于每个文件或针对整个环境增加或减少该冗余。这种冗余具备多种好处,最明显的一个是数据高可用。除此之外,数据冗余允许Hadoop集群将工作分解为更小的块,并在集群中的所有服务器上运行较小的作业,以实现更好的可伸缩性。最后,作为最终用户,我们获得了数据局部性的好处,这在处理大型数据集时至关重要。

管理HDFS的十大Hadoop Shell命令

以下是通过shell命令管理Hadoop HDFS的十大基本操作,这些操作对于管理HDFS集群上的文件非常有用。出于测试目的,你可以使用Cloudera或者Hortonworks等中的某些VM调用此命令,或者用于伪分布式集群设置。

1、在给定路径的HDFS中创建目录

2、列出目录内容

3、在HDFS中上传和下载文件

Upload:

hadoop fs -put:

将单个src文件或多个src文件从本地文件系统复制到Hadoop数据文件系统

将文件复制/下载到本地文件系统

Download:

hadoop fs -get:

4、查看文件的内容

与unix cat命令相同: 

5、将文件从源复制到目标

此命令也允许多个源,在这种情况下,目标必须是目录。 

6、将文件从(到)本地文件系统复制到HDFS 

与put命令类似,但源仅限于本地文件引用。 

7、将文件从源移动到目标

注意:不允许跨文件系统移动文件。 

8、删除HDFS中的文件或目录

删除指定为参数的文件,仅在目录为空时删除目录: 

9、显示文件的最后几行

类似于Unix中的tail命令 

10、显示文件的聚合长度 

结论

我们已经看到HDFS是Apache Hadoop生态系统的重要组件之一。相比于本地文件系统,HDFS确实非常强大。因此,所有大数据应用程序都使用HDFS进行数据存储,这也是作为大数据人必须了解HDFS的原因。

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/31077337/viewspace-2199558/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2016-03-28

  • 博文量
    234
  • 访问量
    404455