在Java中，可以使用java.nio.charset.Charset類來判斷文件的編碼格式。可以使用Charset.forName(String charsetName)方法，根據文件的編碼來獲取相應的Charset對象。然后使用CharsetDecoder類的decode(ByteBuffer buffer)方法將文件內容解碼為字符。

以下是一個示例代碼：

import java.nio.charset.Charset;
import java.nio.charset.CharsetDecoder;
import java.nio.charset.StandardCharsets;
import java.nio.file.Files;
import java.nio.file.Path;
import java.nio.file.Paths;

public class FileEncodingDetection {
    public static void main(String[] args) {
        String filePath = "path/to/file.txt";
        Path path = Paths.get(filePath);

        try {
            CharsetDetector detector = new CharsetDetector();
            Charset charset = detector.detectCharset(path);
            System.out.println("文件編碼格式: " + charset.displayName());
        } catch (Exception e) {
            e.printStackTrace();
        }
    }

    private static class CharsetDetector {
        public Charset detectCharset(Path path) throws Exception {
            byte[] bytes = Files.readAllBytes(path);
            CharsetDecoder decoder = StandardCharsets.UTF_8.newDecoder();
            decoder.reset();
            decoder.decode(ByteBuffer.wrap(bytes));
            return decoder.charset();
        }
    }
}

以上代碼中，首先創建一個CharsetDetector類，該類中的detectCharset(Path path)方法用于讀取文件內容并判斷編碼格式。在detectCharset()方法中，首先讀取文件的全部字節內容，然后使用StandardCharsets.UTF_8的CharsetDecoder解碼字節內容，最后返回解碼后的Charset對象。

在main()方法中，首先指定文件的路徑，然后創建 Path 對象。接著使用CharsetDetector類的detectCharset()方法來判斷文件的編碼格式，最后將結果打印出來。