海牛部落 Hadoop 系列教程(六):HDFS 原理以及常用命令

资料 青牛 ⋅ 于 2017-05-09 17:12:17 ⋅ 最后回复由 大槐树 2018-04-19 03:09:43 ⋅ 3094 阅读

1. HDFS(Hadoop Distributed File System)有什么动机和目的

(1)提供较高的容错率,因为数据有备份,通过机架感知策略namenode会尽量将数据的复本放到不同的机架上,所以小规模的宕机不影响数据的存储。
(2)可以使用底成本的硬件搭建一个分布式文件系统,但对于一般想做大规模数据处理的公司来讲这是一个伪命题。
(3)能提供大规模的数据存储,上TB、PB级的规模。
(4)高吞吐的数据访问,获得一个完整的数据可以从多个机器上同时读取。
(5)计算时数据读取的方式多采用本地化方式,如果本地化方式不满足则采用临近网络的方式,这也是通过机架感知策略。

2. HDFS的系统结构

file

以下内容回帖刷新可见………………

回复帖子,然后刷新页面即可查看隐藏内容

版权声明:原创作品,允许转载,转载时务必以超链接的形式表明出处和作者信息。否则将追究法律责任。来自海牛部落-青牛,http://hainiubl.com/topics/84
回复数量: 53
暂无评论~~
  • 请注意单词拼写,以及中英文排版,参考此页
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`, 更多语法请见这里 Markdown 语法
  • 支持表情,可用Emoji的自动补全, 在输入的时候只需要 ":" 就可以自动提示了 :metal: :point_right: 表情列表 :star: :sparkles:
  • 上传图片, 支持拖拽和剪切板黏贴上传, 格式限制 - jpg, png, gif,教程
  • 发布框支持本地存储功能,会在内容变更时保存,「提交」按钮点击时清空
Ctrl+Enter