咨詢郵箱:tata@tatait.com 咨詢電話：0755-29152000 新浪微博：@塔塔IT 微信：添加公眾賬號(hào)“塔塔IT”加關(guān)注！塔塔IT為邁瑞思旗下子品牌，專注高端IT培訓(xùn)。
歡迎訪問塔塔IT官網(wǎng)，塔塔IT為邁瑞思旗下子品牌，塔塔IT,國(guó)內(nèi)高端IT培訓(xùn)領(lǐng)導(dǎo)品牌！專注于IT前沿技術(shù)的傳播與應(yīng)用！
【圖解】告訴你Hadoop是什么
來(lái)源：塔塔 更新時(shí)間：2014-06-29
Hadoop是一種分析和處理大數(shù)據(jù)的軟件平臺(tái)，是Appach的一個(gè)用Java語(yǔ)言所實(shí)現(xiàn)的開源軟件的加框，在大量計(jì)算機(jī)組成的集群當(dāng)中實(shí)現(xiàn)了對(duì)于海量的數(shù)據(jù)進(jìn)行的分布式計(jì)算。
Hadoop的框架最核心的設(shè)計(jì)就是： HDFS和MapReduce.HDFS為海量的數(shù)據(jù)提供了存儲(chǔ)，則MapReduce為海量的數(shù)據(jù)提供了計(jì)算.
大數(shù)據(jù)在Hadoop處理的流程可以參照下面簡(jiǎn)單的圖來(lái)進(jìn)行理解：數(shù)據(jù)是通過(guò)了Hadoop的集群處理后得到的結(jié)果。
HDFS:Hadoop Distributed File System,Hadoop的分布式文件系統(tǒng)。
大文件被分成默認(rèn)64M一塊的數(shù)據(jù)塊分布存儲(chǔ)在集群機(jī)器中。如下圖中的文件 data1被分成3塊，這3塊以冗余鏡像的方式分布在不同的機(jī)器中。
MapReduce:Hadoop為每一個(gè)input split創(chuàng)建一個(gè)task調(diào)用Map計(jì)算，在此task中依次處理此split中的一個(gè)個(gè)記錄(record),map會(huì)將結(jié)果以key–value 的形式輸出，hadoop負(fù)責(zé)按key值將map的輸出整理后作為Reduce的輸入，Reduce Task的輸出為整個(gè)job的輸出，保存在HDFS上。
.png)
Hadoop的集群主要由 NameNode,DataNode,Secondary NameNode,JobTracker,TaskTracker組成。如下圖所示：
NameNode中記錄了文件是如何被拆分成block以及這些block都存儲(chǔ)到了那些DateNode節(jié)點(diǎn).NameNode同時(shí)保存了文件系統(tǒng)運(yùn)行的狀態(tài)信息. DataNode中存儲(chǔ)的是被拆分的blocks.Secondary NameNode幫助NameNode收集文件系統(tǒng)運(yùn)行的狀態(tài)信息。JobTracker當(dāng)有任務(wù)提交到Hadoop集群的時(shí)候負(fù)責(zé)Job的運(yùn)行,負(fù)責(zé)調(diào)度多個(gè)TaskTracker.TaskTracker負(fù)責(zé)某一個(gè)map或者reduce任務(wù)。
Copyright? 2012-2013 TATAIT.COM All Rights Reserved 深圳塔塔咨詢服務(wù)有限公司 版權(quán)所有 深圳網(wǎng)站建設(shè)：沙漠風(fēng)
塔塔IT—高端IT培訓(xùn)領(lǐng)導(dǎo)品牌，專注于IT前沿技術(shù)的傳播與應(yīng)用。專業(yè)創(chuàng)造價(jià)值，服務(wù)贏得口碑！
