CGFT《大數據技術原理與應用》中的數據錯誤與恢復？HDFS具有較高的容錯性，可以兼容廉價的硬件，它把硬件出錯看成一種常態，而不是異常，并設計了相應的機制檢測數據錯誤和進行自動恢復，主要包括以下幾種情形。

1.名稱節點出錯

名稱節點保存了所有的元數據信息，其中，*核心的兩大數據結構是Fslmage和Editlog,如果這兩個文件發生損壞，那么整個HDFS實例將失效。因此，HDFS設置了備份機制，把這些核心文件同步復制到備份服務器SecondaryNameNode上，備份服務器本身不會處理任何請求，只扮演備份機的角色，雖然這樣會增加名稱節點服務器的負擔，但是，可以有效*數據的可靠性和系統可用性。當名稱節點出錯時，就可以根據備份服務器SecondaryNameNode中的Fslmage和Editlog數據進行恢復。

2.數據節點出錯

每個數據節點會定期向名稱節點發送“心跳”信息，向名稱節點報告自己的狀態。當數據節點發生故障，或者網絡發生斷網時，名稱節點就無法收到來自一些數據節點的心跳信息，這時，這些數據節點就會被標記為“巖機”，節點上面的所有數據都會被標記為“不可讀”，名稱節點不會再給它們發送任何I/O請求。這時，有可能出現一種情形，即由于一些數據節點的不可用，會導致一些數據塊的副本數量小于沉余因子。名稱節點會定期檢查這種情況，一旦發現某個數據塊的副本數量小于阮余因子，就會啟動數據穴余復制，為它生成新的副本。HDFS和其他分布式文件系統的*區別就是可以調整沉余數據的位置。

3.數據出錯

網絡傳輸和磁盤錯誤等因素，都會造成數據錯誤。客戶端在讀取到數據后，會采用md5和shal對數據塊進行校驗，以確定讀取到正確的數據。在文件被創建時，客戶端就會對每一個文件塊進行信息摘錄，并把這些信息寫入同一個路徑的隱藏文件里面。當客戶端讀取文件的時候，會先讀取該信息文件，然后，利用該信息文件對每個讀取的數據塊進行校驗，如果校驗出錯，客戶端就會請求到另外一個數據節點讀取該文件塊，并且向名稱節點報告這個文件塊有錯誤，名稱節點會定期檢查并且重新復制這個塊。