色尼玛亚洲综合影院,亚洲3atv精品一区二区三区,麻豆freexxxx性91精品,欧美在线91

hadoop常見(jiàn)錯(cuò)誤以及處理方法詳解

1、hadoop-root-datanode-master.log 中有如下錯(cuò)誤:
ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: Java.io.IOException: Incompatible namespaceIDs in
導(dǎo)致datanode啟動(dòng)不了。
原因:每次namenode format會(huì)重新創(chuàng)建一個(gè)namenodeId,而dfs.data.dir參數(shù)配置的目錄中包含的是上次format創(chuàng)建的id,和dfs.name.dir參數(shù)配置的目錄中的id不一致。namenode format清空了namenode下的數(shù)據(jù),但是沒(méi)有清空datanode下的數(shù)據(jù),導(dǎo)致啟動(dòng)時(shí)失敗,所要做的就是每次fotmat前,清空dfs.data.dir參數(shù)配置的目錄.
格式化hdfs的命令
復(fù)制代碼 代碼如下:
hadoop namenode -format 

2、如果datanode連接不上namenode,導(dǎo)致datanode無(wú)法啟動(dòng)。
ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: Java.io.IOException: Call to ... failed on local exception: Java.NET.NoRouteToHostException: No route to host
關(guān)閉防火墻
復(fù)制代碼 代碼如下:
service iptables stop

機(jī)器重啟后,防火墻還會(huì)開(kāi)啟。

3、從本地往hdfs文件系統(tǒng)上傳文件,出現(xiàn)如下錯(cuò)誤:
INFO hdfs.DFSClient: Exception in createBlockOutputStream Java.io.IOException: Bad connect ack with firstBadLink
INFO hdfs.DFSClient: Abandoning block blk_-1300529705803292651_37023
WARN hdfs.DFSClient: DataStreamer Exception: Java.io.IOException: Unable to create new block.
解決方法:
關(guān)閉防火墻:
復(fù)制代碼 代碼如下:
service iptables stop

禁用selinux:
編輯 /etc/selinux/config文件,設(shè)置“SELINUX=disabled”

4、安全模式導(dǎo)致的錯(cuò)誤
org.apache.hadoop.dfs.SafeModeException: Cannot delete ..., Name node is in safe mode
在分布式文件系統(tǒng)啟動(dòng)的時(shí)候,開(kāi)始的時(shí)候會(huì)有安全模式,當(dāng)分布式文件系統(tǒng)處于安全模式的情況下,文件系統(tǒng)中的內(nèi)容不允許修改也不允許刪除,直到安全模式結(jié)束。安全模式主要是為了系統(tǒng)啟動(dòng)的時(shí)候檢查各個(gè)DataNode上數(shù)據(jù)塊的有效性,同時(shí)根據(jù)策略必要的復(fù)制或者刪除部分?jǐn)?shù)據(jù)塊。運(yùn)行期通過(guò)命令也可以進(jìn)入安全模式。在實(shí)踐過(guò)程中,系統(tǒng)啟動(dòng)的時(shí)候去修改和刪除文件也會(huì)有安全模式不允許修改的出錯(cuò)提示,只需要等待一會(huì)兒即可。
復(fù)制代碼 代碼如下:
hadoop dfsadmin -safemode leave

關(guān)閉安全模式

php技術(shù)hadoop常見(jiàn)錯(cuò)誤以及處理方法詳解,轉(zhuǎn)載需保留來(lái)源!

鄭重聲明:本文版權(quán)歸原作者所有,轉(zhuǎn)載文章僅為傳播更多信息之目的,如作者信息標(biāo)記有誤,請(qǐng)第一時(shí)間聯(lián)系我們修改或刪除,多謝。

主站蜘蛛池模板: 兴化市| 柳州市| 云梦县| 桂阳县| 类乌齐县| 江川县| 苏尼特右旗| 丹寨县| 铜山县| 南溪县| 崇礼县| 平潭县| 黄浦区| 柘城县| 原阳县| 荔浦县| 仙居县| 大庆市| 维西| 临颍县| 西乌珠穆沁旗| 咸宁市| 卓资县| 汉阴县| 平阴县| 金昌市| 远安县| 确山县| 和平区| 中阳县| 麻城市| 仙游县| 天门市| 辽源市| 锦州市| 沾益县| 南华县| 临湘市| 泗洪县| 盐池县| 兰考县|