Hadoop之HDFS的FileSystem接口詳解

基本的文件系統命令操作, 通過hadoop fs-help可以獲取所有的命令的詳細幫助文件。

Java抽象類org.apache.hadoop.fs.FileSystem定義了hadoop的一個文件系統接口。Hadoop中關于文件操作類基本上全部是在"org.apache.hadoop.fs"包中，這些API能夠支持的操作包含：打開文件，讀寫文件，刪除文件等。

Hadoop類庫中最終面向用戶提供的接口類是FileSystem，該類是個抽象類，只能通過來類的get方法得到具體類。

構造方法

該類是一個抽象類，通過以下兩種靜態工廠方法可以過去FileSystem實例：

public staticFileSystem.get(Configuration conf) throws IOException

public staticFileSystem.get(URI uri, Configuration conf) throws IOException

具體方法實現

1、publicboolean mkdirs(Path f) throws IOException

一次性新建所有目錄（包括父目錄）， f是完整的目錄路徑。

2、publicFSOutputStream create(Path f) throws IOException

創建指定path對象的一個文件，返回一個用于寫入數據的輸出流

create()有多個重載版本，允許我們指定是否強制覆蓋已有的文件、文件備份數量、寫入文件緩沖區大小、文件塊大小以及文件權限。

3、publicboolean copyFromLocal(Path src, Path dst) throws IOException

將本地文件拷貝到文件系統

4、publicboolean exists(Path f) throws IOException

檢查文件或目錄是否存在

5、publicboolean delete(Path f, Boolean recursive)

永久性刪除指定的文件或目錄，如果f是一個空目錄或者文件，那么recursive的值就會被忽略。只有recursive＝true時，一個非空目錄及其內容才會被刪除。

6、FileStatus類封裝了文件系統中文件和目錄的元數據，包括文件長度、塊大小、備份、修改時間、所有者以及權限信息。

通過"FileStatus.getPath（）"可查看指定HDFS中某個目錄下所有文件。

packagehdfsTest;
 
importjava.io.IOException;
 
importorg.apache.hadoop.conf.Configuration;
importorg.apache.hadoop.fs.FSDataOutputStream;
importorg.apache.hadoop.fs.FileStatus;
importorg.apache.hadoop.fs.FileSystem;
importorg.apache.hadoop.fs.Path;
 
public classOperatingFiles {
         //initialization
         static Configuration conf = newConfiguration();
         static FileSystem hdfs;
         static {
                   String path ="/usr/java/hadoop-1.0.3/conf/";
                   conf.addResource(newPath(path + "core-site.xml"));
                   conf.addResource(newPath(path + "hdfs-site.xml"));
                   conf.addResource(newPath(path + "mapred-site.xml"));
                   path ="/usr/java/hbase-0.90.3/conf/";
                   conf.addResource(newPath(path + "hbase-site.xml"));
                   try {
                            hdfs =FileSystem.get(conf);
                   } catch (IOException e) {
                            e.printStackTrace();
                   }
         }
          //create a direction
         public void createDir(String dir)throws IOException {
                   Path path = new Path(dir);
                   hdfs.mkdirs(path);
                   System.out.println("newdir \t" + conf.get("fs.default.name") + dir);
         }       
        
         //copy from local file to HDFS file
         public void copyFile(String localSrc,String hdfsDst) throws IOException{
                   Path src = newPath(localSrc);                  
                   Path dst = new Path(hdfsDst);
                   hdfs.copyFromLocalFile(src,dst);
                  
                   //list all the files in thecurrent direction
                   FileStatus files[] =hdfs.listStatus(dst);
                   System.out.println("Uploadto \t" + conf.get("fs.default.name") + hdfsDst);
                   for (FileStatus file : files){
                            System.out.println(file.getPath());
                   }
         }
         //create a new file
         public void createFile(String fileName,String fileContent) throws IOException {
                   Path dst = newPath(fileName);
                   byte[] bytes =fileContent.getBytes();
                   FSDataOutputStream output =hdfs.create(dst);
                   output.write(bytes);
                   System.out.println("newfile \t" + conf.get("fs.default.name") + fileName);
         }
        
         //list all files
         public void listFiles(String dirName)throws IOException {
                   Path f = new Path(dirName);
                   FileStatus[] status =hdfs.listStatus(f);
                   System.out.println(dirName +" has all files:");
                   for (int i = 0; i<status.length; i++) {
                            System.out.println(status[i].getPath().toString());
                   }
         }
            //judge a file existed? and delete it!
         public void deleteFile(String fileName)throws IOException {
                   Path f = new Path(fileName);
                   boolean isExists =hdfs.exists(f);
                   if (isExists) {      //if exists, delete
                            boolean isDel =hdfs.delete(f,true);
                            System.out.println(fileName+ "  delete? \t" + isDel);
                   } else {
                            System.out.println(fileName+ "  exist? \t" + isExists);
                   }
         }
 
         public static void main(String[] args)throws IOException {
                   OperatingFiles ofs = newOperatingFiles();
                   System.out.println("\n=======createdir=======");
                   String dir ="/test";
                   ofs.createDir(dir);
                   System.out.println("\n=======copyfile=======");
                   String src ="/home/ictclas/Configure.xml";
                   ofs.copyFile(src, dir);
                   System.out.println("\n=======createa file=======");
                   String fileContent ="Hello, world! Just a test.";
                   ofs.createFile(dir+"/word.txt",fileContent);
         }
}

上傳本地文件

通過"FileSystem.copyFromLocalFile（Path src，Patch dst）"可將本地文件上傳到HDFS的制定位置上，其中src和dst均為文件的完整路徑。具體事例如下：

packagecom.hebut.file;
 
importorg.apache.hadoop.conf.Configuration;
importorg.apache.hadoop.fs.FileStatus;
importorg.apache.hadoop.fs.FileSystem;
importorg.apache.hadoop.fs.Path;
 
public classCopyFile {
    public static void main(String[] args)throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
      
        //本地文件
        Path src =newPath("D:\\HebutWinOS");
        //HDFS為止
        Path dst =new Path("/");
      
        hdfs.copyFromLocalFile(src, dst);
        System.out.println("Uploadto"+conf.get("fs.default.name"));
      
        FileStatusfiles[]=hdfs.listStatus(dst);
        for(FileStatus file:files){
            System.out.println(file.getPath());
        }
    }
}

運行結果可以通過控制臺、項目瀏覽器和Linux查看，如圖所示。

1、控制臺結果

2、項目瀏覽器

3、linux結果詳情

    創建HDFS文件

        通過"FileSystem.create（Path f）"可在HDFS上創建文件，其中f為文件的完整路徑。具體實現如下：

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class CreateFile {
 
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
       
        byte[] buff="hello hadoop world!\n".getBytes();
       
        Path dfs=new Path("/test");
       
        FSDataOutputStream outputStream=hdfs.create(dfs);
        outputStream.write(buff,0,buff.length);
       
    }
}

        運行結果如圖所示。

        1）項目瀏覽器

        2）Linux結果

    創建HDFS目錄

        通過"FileSystem.mkdirs（Path f）"可在HDFS上創建文件夾，其中f為文件夾的完整路徑。具體實現如下：

package com.hebut.dir;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class CreateDir {
 
    public static void main(String[] args) throws Exception{
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
       
        Path dfs=new Path("/TestDir");
       
        hdfs.mkdirs(dfs);
 
    }
}

        運行結果如圖所示。

        1）項目瀏覽器

        2）Linux結果

    重命名HDFS文件

        通過"FileSystem.rename（Path src，Path dst）"可為指定的HDFS文件重命名，其中src和dst均為文件的完整路徑。具體實現如下：

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class Rename{
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
     
        Path frpaht=new Path("/test");    //舊的文件名
        Path topath=new Path("/test1");    //新的文件名
       
        boolean isRename=hdfs.rename(frpaht, topath);
       
        String result=isRename?"成功":"失敗";
        System.out.println("文件重命名結果為："+result);
       
    }
}

        運行結果如圖所示。

        1）項目瀏覽器

    2）Linux結果     

    刪除HDFS上的文件

        通過"FileSystem.delete（Path f，Boolean recursive）"可刪除指定的HDFS文件，其中f為需要刪除文件的完整路徑，recuresive用來確定是否進行遞歸刪除。具體實現如下：

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class DeleteFile {
 
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
       
        Path delef=new Path("/test1");
       
        boolean isDeleted=hdfs.delete(delef,false);
        //遞歸刪除
        //boolean isDeleted=hdfs.delete(delef,true);
        System.out.println("Delete?"+isDeleted);
    }
}

        運行結果如圖所示。

        1）控制臺結果

    2）項目瀏覽器

    刪除HDFS上的目錄

        同刪除文件代碼一樣，只是換成刪除目錄路徑即可，如果目錄下有文件，要進行遞歸刪除。

    查看某個HDFS文件是否存在

        通過"FileSystem.exists（Path f）"可查看指定HDFS文件是否存在，其中f為文件的完整路徑。具體實現如下：

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class CheckFile {
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
        Path findf=new Path("/test1");
        boolean isExists=hdfs.exists(findf);
        System.out.println("Exist?"+isExists);
    }
}

        運行結果如圖所示。

        1）控制臺結果

        2）項目瀏覽器

    查看HDFS文件的最后修改時間

        通過"FileSystem.getModificationTime()"可查看指定HDFS文件的修改時間。具體實現如下：

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class GetLTime {
 
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
       
        Path fpath =new Path("/user/hadoop/test/file1.txt");
       
        FileStatus fileStatus=hdfs.getFileStatus(fpath);
        long modiTime=fileStatus.getModificationTime();
       
        System.out.println("file1.txt的修改時間是"+modiTime);
    }
}

   運行結果如圖所示。

    讀取HDFS某個目錄下的所有文件

        通過"FileStatus.getPath（）"可查看指定HDFS中某個目錄下所有文件。具體實現如下：

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class ListAllFile {
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
       
        Path listf =new Path("/user/hadoop/test");
       
        FileStatus stats[]=hdfs.listStatus(listf);
        for(int i = 0; i < stats.length; ++i)
                 {
                         System.out.println(stats[i].getPath().toString());
                 }
        hdfs.close();
    }
}

        運行結果如圖所示。

        1）控制臺結果

        2）項目瀏覽器

    查找某個文件在HDFS集群的位置

        通過"FileSystem.getFileBlockLocation（FileStatus file，long start，long len）"可查找指定文件在HDFS集群上的位置，其中file為文件的完整路徑，start和len來標識查找文件的路徑。具體實現如下：

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.BlockLocation;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class FileLoc {
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
        Path fpath=new Path("/user/hadoop/cygwin");
       
        FileStatus filestatus = hdfs.getFileStatus(fpath);
        BlockLocation[] blkLocations = hdfs.getFileBlockLocations(filestatus, 0, filestatus.getLen());
 
        int blockLen = blkLocations.length;
        for(int i=0;i
            String[] hosts = blkLocations[i].getHosts();
            System.out.println("block_"+i+"_location:"+hosts[0]);
        }
    }
}

        運行結果如圖所示。

        1）控制臺結果

        2）項目瀏覽器

    獲取HDFS集群上所有節點名稱信息

        通過"DatanodeInfo.getHostName（）"可獲取HDFS集群上的所有節點名稱。具體實現如下：

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.hdfs.DistributedFileSystem;
import org.apache.hadoop.hdfs.protocol.DatanodeInfo;
 
public class GetList {
 
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem fs=FileSystem.get(conf);
       
        DistributedFileSystem hdfs = (DistributedFileSystem)fs;
        DatanodeInfo[] dataNodeStats = hdfs.getDataNodeStats();
       
        for(int i=0;ilength;i++){
            System.out.println("DataNode_"+i+"_Name:"+dataNodeStats[i].getHostName());
        }
    }
}

        運行結果如圖所示。