hadoop的簡單安裝部署過程

hadoop的簡單安裝部署過程

為了做些實驗，所以在自己筆記本電腦上裝了個虛擬機，系統為CentOS6.2，JDK1.7，hadoop-1.0.1

為了簡單起見，部署偽分布式，即僅有一個節點，這個節點既是Master，也是Slave，既是NameNode，也是DataNode，既是JobTracker，也是TaskTracker。

部署總體說明：

偽分布式部署比較簡單，只需要搞定4個配置文件即可，分別是：

1.hadoop-env.sh       //用以指定JDK的位置 

2.core-site.xml    //核心配置，用以指定HDFS地址及端口號

3.hdfs-site.xml    //HDFS配置，可以指定備份數量，默認為3，偽分布式需要配置為1

4.mapred-site.xml     //用以配置JboTracker的地址及端口

配置完上述文件之后，還差兩步：

1.格式化HDFS文件系統

2.啟動并驗證

正式開始：

1.配置hadoop-env.sh

由于忘記了JDK的位置，用java -verbose查了一下，找到/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.85.x86_64/jre

因此，在hadoop-env.sh中寫入如下一行（其實可以找到指定位置，讀者可以自己發現）

export JAVA_HOME=/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.85.x86_64/jre

2.配置core-site.xml

<?xmlversion="1.0"?>

<?xml-stylesheettype="text/xsl" href="configuration.xsl"?>

<!-- Putsite-specific property overrides in this file. -->

<configuration>

       <property>

              <name>fs.default.name</name>

              <value>hdfs://localhost:9000</value>

       </property>

</configuration>

//說明：其實其他部分已經有了，只需要自己敲入黑色加粗部分就可以了

3.配置hdfs-site.xml

<?xmlversion="1.0"?>

<?xml-stylesheettype="text/xsl" href="configuration.xsl"?>

<!-- Putsite-specific property overrides in this file. -->

<configuration>

       <property>

              <name>dfs.replication</name>

              <value>1</value>

       </property>

</configuration>

4.配置mapred-site.xml

<?xmlversion="1.0"?>

<?xml-stylesheettype="text/xsl" href="configuration.xsl"?>

<!-- Putsite-specific property overrides in this file. -->

<configuration>

       <property>

              <name>mapred.job.tracker</name>

              <value>localhost:9001</value>

       </property>

</configuration>

進入最后兩步：

1.格式化hdfs

[root@wjz hadoop]# cd /usr/local/hadoop/bin    //進入hadoop的可執行文件bin目錄

[root@wjz bin]# ./hadoop namenode -format  //執行格式化命令

2.啟動并驗證

[root@wjz bin]# ./start-all.sh 

打開瀏覽器驗證，分別輸入如下網址：

http://localhost:50030            （MapReduce的WEB頁面）

http://localhost:50070            （HDFS的WEB頁面）

----搞定，OK了