您好,登錄后才能下訂單哦!
這篇文章主要介紹了Java多線程斷點復制的方法是什么的相關知識,內容詳細易懂,操作簡單快捷,具有一定借鑒價值,相信大家閱讀完這篇Java多線程斷點復制的方法是什么文章都會有所收獲,下面我們一起來看看吧。
我這里是使用一個Timer類(java.util.Timer
)來實現斷點功能的,就是使用這個類,每隔一段時間進行一次記錄,記錄的內容是每個線程復制的進度。
Timer 類的介紹:
A facility for threads to schedule tasks for future execution in a background thread. Tasks may be scheduled for one-time execution, or for repeated execution at regular intervals. 線程在后臺線程中調度任務以供將來執行的工具。任務可以安排為一次性執行,也可以安排為定期重復執行。
根據 API 中的介紹可以看出,這個 Timer 類可以只執行一次任務,也可以周期性地執行任務。(注意這個類是 java.util.Timer 類,不是 javax 包下面的類。)
這個類的有很多和時間相關的方法,這里就不介紹了,感興趣的可以去了解,這里只介紹我們需要使用的一個方法。
public void schedule(TimerTask task, long delay, long period)
Schedules the specified task for repeated fixed-delay execution beginning after the specified delay. Subsequent executions take place at approximately regular intervals separated by the specified period. 為指定的任務安排在指定延遲之后開始的重復固定延遲執行。隨后的執行發生在按規定時間間隔的大致間隔。
使用這個方法,按照一個固定的時間間隔記錄各個線程的復制進度信息即可。
package dragon.local; import java.io.File; import java.io.FileNotFoundException; import java.io.FileOutputStream; import java.io.IOException; import java.io.ObjectOutputStream; import java.util.List; import java.util.Timer; import java.util.TimerTask; public class RecordTask extends TimerTask { public static final String filename = "breakPointRecord.txt"; private Timer timer; private List<FileCopyThread> copyThreads; private String outputPath; public RecordTask(Timer timer, List<FileCopyThread> copyThreads, String outputPath) { this.timer = timer; this.copyThreads = copyThreads; this.outputPath = outputPath; } @Override public void run() { try { this.breakPointRecord(); } catch (IOException e) { e.printStackTrace(); } } public void breakPointRecord() throws FileNotFoundException, IOException { int aliveThreadNum = 0; //存活線程數目 //不使用追加方式,這里只需要最新的記錄即可。 File recordFile = new File(outputPath, filename); try (ObjectOutputStream oos = new ObjectOutputStream(new FileOutputStream(recordFile))){ //每次記錄一個線程的下載位置,但是取出來又需要進行轉換,太麻煩了。 //我們直接使用序列化來進行操作,哈哈! long[] curlen = new long[4]; int index = 0; for (FileCopyThread copyThread : copyThreads) { if (copyThread.isAlive()) { aliveThreadNum++; } curlen[index++] = copyThread.getCurlen(); System.out.println(index+" curlen: "+copyThread.getCurlen()); } //創建 Record 對象,并序列化。 oos.writeObject(new Record(curlen)); } //當所有的線程都死亡時,關閉計時器,刪除記錄文件。(所有線程死亡的話,就是文件已經復制完成了!) if (aliveThreadNum == 0) { timer.cancel(); recordFile.delete(); } System.out.println("線程數量: "+aliveThreadNum); } }
說明:
if (aliveThreadNum == 0) { timer.cancel(); recordFile.delete(); }
如果線程都已經結束了,就表示程序已經正常執行結束了。這個時候就刪除記錄文件。這里這個記錄文件是一個標志(flag),如果存在記錄文件就表示程序沒有正常結束,再次啟動時,會進行斷點復制。
注意:這里沒有考慮復制過程中的 IO 異常,如果線程拋出 IO 異常,那么線程的狀態也是結束了。但是考慮,本地文件復制出現 IO 異常的情況還是比較少的,就沒有考慮,如果是網絡下載的話,這個程序的功能可能就需要進行改進了。
每次需要依次寫入各個線程的信息,但是讀取出來還需要進行轉換,還是感覺過于麻煩了,這里直接利用Java的序列化機制了。 有時候,直接操作對象是很方便的。 注意: 數組的下標表示的就是每個線程的位置。
package dragon.local; import java.io.Serializable; public class Record implements Serializable{ /** * 序列化 id */ private static final long serialVersionUID = 1L; private long[] curlen; public Record(long[] curlen) { this.curlen = curlen; } public long[] getCurlen() { return this.curlen; } }
package dragon.local; import java.io.BufferedInputStream; import java.io.File; import java.io.FileInputStream; import java.io.IOException; import java.io.RandomAccessFile; public class FileCopyThread extends Thread { private int index; private long position; private long size; private File targetFile; private File outputFile; private long curlen; //當前下載的長度 public FileCopyThread(int index, long position, long size, File targetFile, File outputFile) { this.index = index; this.position = position; this.size = size; this.targetFile = targetFile; this.outputFile = outputFile; this.curlen = 0L; } @Override public void run() { try ( BufferedInputStream bis = new BufferedInputStream(new FileInputStream(targetFile)); RandomAccessFile raf = new RandomAccessFile(outputFile, "rw")){ bis.skip(position); //跳過不需要讀取的字節數,注意只能先后跳 raf.seek(position); //跳到需要寫入的位置,沒有這句話,會出錯,但是很難改。 int hasRead = 0; byte[] b = new byte[1024]; /** * 注意,每個線程只是讀取一部分數據,不能只以 -1 作為循環結束的條件 * 循環退出條件應該是兩個,即寫入的字節數大于需要讀取的字節數 或者 文件讀取結束(最后一個線程讀取到文件末尾) */ while(curlen < size && (hasRead = bis.read(b)) != -1) { raf.write(b, 0, hasRead); curlen += (long)hasRead; //強制停止程序。 // if (curlen > 17_000_000) { // System.exit(0); // } } System.out.println(index+" "+position+" "+curlen+" "+size); } catch (IOException e) { e.printStackTrace(); } } public long getCurlen() { //獲取當前的進度,用于記錄,以便必要時恢復讀取進度。 return position+this.curlen; } }
這段代碼是為了測試斷點復制的。如果你想要進行測試,可以將 if 判斷中的條件按照你要復制的文件大小進行相應的調整。如果要進行測試,可以先將這段代碼的注釋取消再執行程序(然后程序退出,這時候文件沒有復制完成。),然后再將這段代碼注釋再次執行程序,文件將會復制成功。
//強制停止程序。 // if (curlen > 17_000_000) { // System.exit(0); // }
package dragon.local; import java.io.File; import java.io.FileInputStream; import java.io.FileNotFoundException; import java.io.IOException; import java.io.ObjectInputStream; import java.io.RandomAccessFile; import java.util.ArrayList; import java.util.List; import java.util.Timer; /** * 設計思路: * 獲取目標文件的大小,然后設置復制文件的大小(這樣做是有好處的), * 然后使用將文件分為 n 分,使用 n 個線程同時進行復制(這里我將 n 取為 4)。 * * 進一步拓展: * 加強為斷點復制功能,即程序中斷以后, * 仍然可以繼續從上次位置恢復復制,減少不必要的重復開銷 * */ public class FileCopyUtil { //設置一個常量,復制線程的數量 private static final int THREAD_NUM = 4; private FileCopyUtil() {} /** * @param targetPath 目標文件的路徑 * @param outputPath 復制輸出文件的路徑 * @throws IOException * @throws ClassNotFoundException * */ public static void transferFile(String targetPath, String outputPath) throws IOException, ClassNotFoundException { File targetFile = new File(targetPath); File outputFilePath = new File(outputPath); if (!targetFile.exists() || targetFile.isDirectory()) { //目標文件不存在,或者是一個文件夾,則拋出異常 throw new FileNotFoundException("目標文件不存在:"+targetPath); } if (!outputFilePath.exists()) { //如果輸出文件夾不存在,將會嘗試創建,創建失敗,則拋出異常。 if(!outputFilePath.mkdir()) { throw new FileNotFoundException("無法創建輸出文件:"+outputPath); } } long len = targetFile.length(); File outputFile = new File(outputFilePath, "copy"+targetFile.getName()); createOutputFile(outputFile, len); //創建輸出文件,設置好大小。 //創建計時器 Timer 對象 Timer timer = new Timer(); long[] position = new long[4]; //每一個線程需要復制文件的起點 long size = len / FileCopyUtil.THREAD_NUM + 1; //保存復制線程的集合 List<FileCopyThread> copyThreads = new ArrayList<>(); Record record = getRecord(outputPath); for (int i = 0; i < FileCopyUtil.THREAD_NUM; i++) { //如果已經有了 記錄文件,就從使用記錄數據,否則就是新的下載。 position[i] = record == null ? i*size : record.getCurlen()[i]; FileCopyThread copyThread = new FileCopyThread(i, position[i], size, targetFile, outputFile); copyThread.start(); //啟動復制線程 copyThreads.add(copyThread); //將復制線程添加到集合中。 } timer.schedule(new RecordTask(timer, copyThreads, outputPath), 0L, 100L); //立即啟動計時器,每隔10秒記錄一次位置。 System.out.println("開始了!"); } //創建輸出文件,設置好大小。 private static void createOutputFile(File file, long length) throws IOException { try ( RandomAccessFile raf = new RandomAccessFile(file, "rw")){ raf.setLength(length); } } //獲取以及下載的位置 private static Record getRecord(String outputPath) throws FileNotFoundException, IOException, ClassNotFoundException { File recordFile = new File(outputPath, RecordTask.filename); if (recordFile.exists()) { try (ObjectInputStream ois = new ObjectInputStream(new FileInputStream(recordFile))){ return (Record) ois.readObject(); } } return null; } }
說明: 根據復制的目錄中,是否存在記錄文件來判斷是否啟動斷點復制。
private static Record getRecord(String outputPath) throws FileNotFoundException, IOException, ClassNotFoundException { File recordFile = new File(outputPath, RecordTask.filename); if (recordFile.exists()) { try (ObjectInputStream ois = new ObjectInputStream(new FileInputStream(recordFile))){ return (Record) ois.readObject(); } } return null; }
啟動斷點復制原來其實很簡單,就是和復制一樣,只不過起始復制位置變成了記錄的位置了。
//如果已經有了 記錄文件,就從使用記錄數據,否則就是新的下載。 position[i] = record == null ? i*size : record.getCurlen()[i];
關于“Java多線程斷點復制的方法是什么”這篇文章的內容就介紹到這里,感謝各位的閱讀!相信大家對“Java多線程斷點復制的方法是什么”知識都有一定的了解,大家如果還想學習更多知識,歡迎關注億速云行業資訊頻道。
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。