機房360首頁
                  當前位置:首頁 ? 大數據 ? 想轉行大數據,如何開始學習 Hadoop?

                  想轉行大數據,如何開始學習 Hadoop?

                  來源:簡書 作者:DJ編輯 更新時間:2018/10/19 10:53:27

                  摘要:學習大數據首先要了解大數據的學習路線,首先搞清楚先學什么,再學什么,大的學習框架知道了,剩下的就是一步一個腳印踏踏實實從最基

                    學習大數據首先要了解大數據的學習路線,首先搞清楚先學什么,再學什么,大的學習框架知道了,剩下的就是一步一個腳印踏踏實實從最基

                    礎的開始學起。這里給大家普及一下學習路線:hadoop生態圈——Strom——Spark——算法。所以學習hadoop是第一步,在這里聲明一下,

                    在學習hadoop之前需要有java基礎,因為hadoop底層全是用java寫的;還需要系統層面學會使用linux的基本shell命令,因為你學習hadoop得首

                    先會安裝hadoop。Hadoop在大數據技術體系中的地位至關重要,Hadoop是大數據技術的基礎,對Hadoop基礎知識的掌握的扎實程度,會決

                    定在大數據技術道路上走多遠。

                    下面談談一談如何開始學習hadoop。本文的思路是:以安裝部署Apache Hadoop2.x版本為主線,來介紹Hadoop2.x的架構組成、各模塊協同工作原理、技術細節。安裝不是目的,通過安裝認識Hadoop才是目的。

                    Hadoop環境搭建

                    第一部分:Linux環境安裝

                    Hadoop是運行在Linux,雖然借助工具也可以運行在Windows上,但是建議還是運行在Linux系統上,第一部分介紹Linux環境的安裝、配置、

                    Java JDK安裝等。

                    第二部分:Hadoop本地模式安裝

                    Hadoop本地模式只是用于本地開發調試,或者快速安裝體驗Hadoop,這部分做簡單的介紹。

                    第三部分:Hadoop偽分布式模式安裝

                    學習Hadoop一般是在偽分布式模式下進行。這種模式是在一臺機器上各個進程上運行Hadoop的各個模塊,偽分布式的意思是雖然各個模塊是

                    在各個進程上分開運行的,但是只是運行在一個操作系統上的,并不是真正的分布式。

                    第四部分:完全分布式安裝

                    完全分布式模式才是生產環境采用的模式,Hadoop運行在服務器集群上,生產環境一般都會做HA,以實現高可用。

                    第五部分:Hadoop HA安裝

                    HA是指高可用,為了解決Hadoop單點故障問題,生產環境一般都做HA部署。這部分介紹了如何配置Hadoop2.x的高可用,并簡單介紹了HA的工作原理。

                    安裝過程中,會穿插簡單介紹涉及到的知識。希望能對大家有所幫助。

                    上面環境的搭建只是講了一下框架,由于時間有限,具體如何操作可以留言與我交流。

                    環境搭建好后,然后嘗試編寫mapreduce進行打包運行。當你對hadoop應用編程層面沒有疑問的時候,可以嘗試去深入了解mapreduce的核心思想,尤其是map,shuffle,join,reduce等。

                    對于新手來說入門會遇到很多問題,這是正常的,不過遇到問題不可怕,只要想辦法解決了自己的能力就會一點一點的提高,在這里預祝在大數據之路上求仙的伙伴們學有所成。

                    責任編輯:DJ編輯

                  機房360微信公眾號訂閱
                  掃一掃,訂閱更多數據中心資訊

                  本文地址:http://www.qcgiw.icu/news/20181019/n0121109993.html 網友評論: 閱讀次數:
                  版權聲明:凡本站原創文章,未經授權,禁止轉載,否則追究法律責任。
                  相關評論
                  正在加載評論列表...
                  評論表單加載中...
                  • 我要分享
                  推薦圖片
                  竞彩推荐软件