黄色网页视频 I 影音先锋日日狠狠久久 I 秋霞午夜毛片 I 秋霞一二三区 I 国产成人片无码视频 I 国产 精品 自在自线 I av免费观看网站 I 日本精品久久久久中文字幕5 I 91看视频 I 看全色黄大色黄女片18 I 精品不卡一区 I 亚洲最新精品 I 欧美 激情 在线 I 人妻少妇精品久久 I 国产99视频精品免费专区 I 欧美影院 I 欧美精品在欧美一区二区少妇 I av大片网站 I 国产精品黄色片 I 888久久 I 狠狠干最新 I 看看黄色一级片 I 黄色精品久久 I 三级av在线 I 69色综合 I 国产日韩欧美91 I 亚洲精品偷拍 I 激情小说亚洲图片 I 久久国产视频精品 I 国产综合精品一区二区三区 I 色婷婷国产 I 最新成人av在线 I 国产私拍精品 I 日韩成人影音 I 日日夜夜天天综合

Hadoop 集群 傻瓜式搭建手記

系統(tǒng) 3198 0

關于Hadoop的配置,按照我的理解,應該有六個文件需要修改,它們都在Hadoop的conf文件夾下,分別是

masters/slavers:配置masters和slavers的機器IP

hadoop-env.sh :Hadoop 運行時的環(huán)境變量,比如JAVA_HOME,LOG之類的

core-site.xml :Hadoop 的核心配置文件,對應并覆蓋core-default.xml 中的配置項

hdfs-site.xml :HDFS 的配置文件,對應并覆蓋hdfs-default.xml 中的配置項

mapred-site.xml : Map/Reduce的配置文件,對應并覆蓋mapred-default.xml 中的配置項

上面提到的三個*-default.xml 是Hadoop的默認配置項,理論上都是只讀的,如果要修改,就通過對應的用戶配置文件來覆蓋其設置。

?

1、先配置masters/slavers,NameNode和JobTracker是master, DataNode01和DataNode02是salvers

Masters:

?

  1. vi?/hadoop/conf/masters??
masters文件內(nèi)容如下:

?

?

  1. 192.168.100.101??
  2. 192.168.100.102??

?

Slavers:

  1. vi?/hadoop/conf/slavers??
slavers文件內(nèi)容如下:

?

?

  1. 192.168.100.103??
  2. 192.168.100.104??


?

2、先配置hadoop-env.sh,這里最重要的是配置JAVA_HOME,在我的機器上是這樣的:

?

  1. export?JAVA_HOME=/usr/lib/jvm/java-6-sun??

其余的可以考慮配置日志文件路徑:

?

?

  1. export?HADOOP_LOG_DIR=${HADOOP_HOME}/logs??

3、配置 core-site.xml ,通過文檔可以知道這里一般是配置NameNode的地址,即機器名或IP:

?

  1. < configuration > ????
  2. ???????? < property > ??
  3. ???????????????? < name > fs.default.name </ name > ?????
  4. ???????????????? < value > hdfs://192.168.100.101:9000 </ value > ?????
  5. ???????? </ property > ???
  6. </ configuration > ???

4、配置 hdfs-site.xml ,這里一般配置文件存放路徑以及文件權限:

?

?

  1. < configuration > ????
  2. ???? < property > ????
  3. ???????? <!--?DFS中存儲文件命名空間信息的目錄?--> ????
  4. ???????? < name > dfs.name.dir </ name > ????
  5. ???????? < value > /hadoop/dfs/name </ value > ????
  6. ???? </ property > ????
  7. ???? < property > ????
  8. ???????? <!--?DFS中存儲文件數(shù)據(jù)的目錄?--> ????
  9. ???????? < name > dfs.data.dir </ name > ?????
  10. ???????? < value > /hadoop/dfs/data </ value > ????
  11. ???? </ property > ????
  12. ???? < property > ????
  13. ???????? <!--?是否對DFS中的文件進行權限控制(測試中一般用false)--> ????
  14. ???????? < name > dfs.permissions </ name > ????
  15. ???????? < value > false </ value > ????
  16. ??? </ property > ????
  17. </ configuration > ???


5、配置 mapred-site.xml , 這里配置的東西有很多,都是跟Map-Reduce相關的,不過暫時先配置如下幾項:

?

  1. < configuration > ??
  2. ???? < property > ????
  3. ???????? <!--?JobTracker節(jié)點?--> ????
  4. ???????? < name > mapred.job.tracker </ name > ????
  5. ???????? < value > hdfs://192.168.100.102:9001 </ value > ????
  6. ???? </ property > ????
  7. ???? < property > ????
  8. ???????? <!--?map/reduce的系統(tǒng)目錄(使用的HDFS的路徑)?--> ????
  9. ???????? < name > mapred.system.dir </ name > ????
  10. ???????? < value > /hadoop/mapred/system </ value > ????
  11. ???? </ property > ????
  12. ???? < property > ????
  13. ???????? <!--?map/reduce的臨時目錄(可使用“,”隔開,設置多重路徑來分攤磁盤IO)?--> ????
  14. ???????? < name > mapred.local.dir </ name > ????
  15. ???????? < value > /hadoop/mapred/local </ value > ????
  16. ???? </ property > ????
  17. </ configuration > ???

?

?

這些配置都可以在一臺機器上搞定,由于Hadoop所有機器是使用同樣的配置,所以可以通過scp命令將conf下的內(nèi)容拷貝復制到各個機器上:

?

  1. scp?-rp?/hadoop/conf?fox@192.168.100.102/hadoop/??

只復制conf是由于我拷貝虛擬機時就已經(jīng)把JAVA,Hadoop 都安裝好后才拷貝的,這樣可以保證所有文件在同一目錄。

?

?

啟動

然后,激動人心的時刻到了,所有配置都搞定了,我們可以啟動了!

不過還有一件事情必須要先做, 格式化名稱空間。

在NameNode上,執(zhí)行如下命令:

?

  1. cd?/hadoop/bin??
  2. ./hadoop?namenode?-format??
執(zhí)行后結(jié)果如下:

?

Hadoop 集群 傻瓜式搭建手記

?

然后就可以執(zhí)行最后一個命令了:

?

  1. ./start-all.sh??

如果一切順利的話,應該就成功了:

?

Hadoop 集群 傻瓜式搭建手記

?

如果要關閉的話,可以執(zhí)行

?

  1. ./stop-all.sh??


ref:http://blog.csdn.net/lee_leefox/article/details/7071692

Hadoop 集群 傻瓜式搭建手記


更多文章、技術交流、商務合作、聯(lián)系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯(lián)系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦!??!

發(fā)表我的評論
最新評論 總共0條評論