web-dev-qa-db-ja.com

Javaで行ごとに大きなファイルを読み書きする最も速い方法

Javaメモリが限られている（約64MB）の大きなファイル（0.5-1 GB）を再度読み書きするための最速の方法をたくさん探しています。ファイルの各行は、レコードなので、行ごとに取得する必要がありますファイルは通常のテキストファイルです。

BufferedReaderとBufferedWriterを試しましたが、最良の選択肢ではないようです。サイズが0.5 GBのファイルの読み取りと書き込みには約35秒かかり、処理なしで読み取りと書き込みのみが行われます。読み取りだけで約10秒かかるため、ここでのボトルネックは書き込みだと思います。

バイトの配列を読み取ろうとしましたが、読み取られた各配列の行を検索するのに時間がかかります。

何か提案はありますか？ありがとう

javaperformancefile-iobufferedreader
19
user1785771

あなたの本当の問題は、ハードウェアが限られていることと、ソフトウェアがそれほど大きな違いをもたらさないことだと思います。十分なメモリとCPUがあれば、より高度なトリックが役立ちますが、ファイルがキャッシュされていないためにハードドライブで待機しているだけであれば、それほど違いはありません。

ところで：10秒で500 MBまたは50 MB /秒は、HDDの典型的な読み取り速度です。

次を実行して、システムがファイルを効率的にキャッシュできないポイントを確認してください。

public static void main(String... args) throws IOException {
    for (int mb : new int[]{50, 100, 250, 500, 1000, 2000})
        testFileSize(mb);
}

private static void testFileSize(int mb) throws IOException {
    File file = File.createTempFile("test", ".txt");
    file.deleteOnExit();
    char[] chars = new char[1024];
    Arrays.fill(chars, 'A');
    String longLine = new String(chars);
    long start1 = System.nanoTime();
    PrintWriter pw = new PrintWriter(new FileWriter(file));
    for (int i = 0; i < mb * 1024; i++)
        pw.println(longLine);
    pw.close();
    long time1 = System.nanoTime() - start1;
    System.out.printf("Took %.3f seconds to write to a %d MB, file rate: %.1f MB/s%n",
            time1 / 1e9, file.length() >> 20, file.length() * 1000.0 / time1);

    long start2 = System.nanoTime();
    BufferedReader br = new BufferedReader(new FileReader(file));
    for (String line; (line = br.readLine()) != null; ) {
    }
    br.close();
    long time2 = System.nanoTime() - start2;
    System.out.printf("Took %.3f seconds to read to a %d MB file, rate: %.1f MB/s%n",
            time2 / 1e9, file.length() >> 20, file.length() * 1000.0 / time2);
    file.delete();
}

大量のメモリを搭載したLinuxマシン。

Took 0.395 seconds to write to a 50 MB, file rate: 133.0 MB/s
Took 0.375 seconds to read to a 50 MB file, rate: 140.0 MB/s
Took 0.669 seconds to write to a 100 MB, file rate: 156.9 MB/s
Took 0.569 seconds to read to a 100 MB file, rate: 184.6 MB/s
Took 1.585 seconds to write to a 250 MB, file rate: 165.5 MB/s
Took 1.274 seconds to read to a 250 MB file, rate: 206.0 MB/s
Took 2.513 seconds to write to a 500 MB, file rate: 208.8 MB/s
Took 2.332 seconds to read to a 500 MB file, rate: 225.1 MB/s
Took 5.094 seconds to write to a 1000 MB, file rate: 206.0 MB/s
Took 5.041 seconds to read to a 1000 MB file, rate: 208.2 MB/s
Took 11.509 seconds to write to a 2001 MB, file rate: 182.4 MB/s
Took 9.681 seconds to read to a 2001 MB file, rate: 216.8 MB/s

多くのメモリを搭載したWindowsマシン。

Took 0.376 seconds to write to a 50 MB, file rate: 139.7 MB/s
Took 0.401 seconds to read to a 50 MB file, rate: 131.1 MB/s
Took 0.517 seconds to write to a 100 MB, file rate: 203.1 MB/s
Took 0.520 seconds to read to a 100 MB file, rate: 201.9 MB/s
Took 1.344 seconds to write to a 250 MB, file rate: 195.4 MB/s
Took 1.387 seconds to read to a 250 MB file, rate: 189.4 MB/s
Took 2.368 seconds to write to a 500 MB, file rate: 221.8 MB/s
Took 2.454 seconds to read to a 500 MB file, rate: 214.1 MB/s
Took 4.985 seconds to write to a 1001 MB, file rate: 210.7 MB/s
Took 5.132 seconds to read to a 1001 MB file, rate: 204.7 MB/s
Took 10.276 seconds to write to a 2003 MB, file rate: 204.5 MB/s
Took 9.964 seconds to read to a 2003 MB file, rate: 210.9 MB/s
16
Peter Lawrey

私が最初に試みることは、BufferedReaderとBufferedWriterのバッファサイズを増やすことです。デフォルトのバッファサイズは文書化されていませんが、少なくともOracle VMでは8192文字であり、パフォーマンス上の利点はあまりありません。

ファイルのコピーを作成するだけで（データに実際にアクセスする必要がない場合）、リーダー/ライターのアプローチを廃止し、バッファーとしてバイト配列を使用してInputStreamおよびOutputStreamを直接操作します。

FileInputStream fis = new FileInputStream("d:/test.txt");
FileOutputStream fos = new FileOutputStream("d:/test2.txt");
byte[] b = new byte[bufferSize];
int r;
while ((r=fis.read(b))>=0) {
    fos.write(b, 0, r);         
}
fis.close();
fos.close();

または実際にNIOを使用します。

FileChannel in = new RandomAccessFile("d:/test.txt", "r").getChannel();
FileChannel out = new RandomAccessFile("d:/test2.txt", "rw").getChannel();
out.transferFrom(in, 0, Long.MAX_VALUE);
in.close();
out.close();

ただし、異なるコピー方法のベンチマークを実行する場合、ベンチマークの実行ごとに異なる実装間よりもはるかに大きな差（期間）があります。 I/Oキャッシング（OSレベルとハードディスクキャッシュの両方）がここで大きな役割を果たしており、より高速なものを言うのは非常に困難です。私のハードウェアでは、BufferedReaderとBufferedWriterを使用して1 GBのテキストファイルを1行ずつコピーすると、実行に5秒未満、他の実行に30秒以上かかります。

9
jarnbjo

Java 7では、Files.readAllLines（）およびFiles.write（）メソッドを使用できます。以下に例を示します。

List<String> readTextFile(String fileName) throws IOException {
    Path path = Paths.get(fileName);
    return Files.readAllLines(path, StandardCharsets.UTF_8);
}

void writeTextFile(List<String> strLines, String fileName) throws IOException {
    Path path = Paths.get(fileName);
    Files.write(path, strLines, StandardCharsets.UTF_8);
}
4
Oleg K

Java.nioパッケージのクラスを見ることをお勧めします。ノンブロッキングIOはソケットの方が高速です。

http://docs.Oracle.com/javase/6/docs/api/Java/nio/package-summary.html

この記事には、それが真実であると言うベンチマークがあります。

http://vanillajava.blogspot.com/2010/07/Java-nio-is-faster-than-Java-io-for.html

2
duffymo

Scannerクラスのイテレータを介して効率的に処理できるOutOfMemoryExceptionがすべてです。バルクではなく、1行ずつファイルを読み取ります。

以下のコードで問題を解決します。

try(FileInputStream inputStream =new FileInputStream("D:\\File\\test.txt");
  Scanner sc= new Scanner(inputStream, "UTF-8")) {
  while (sc.hasNextLine()) {
    String line = sc.nextLine();
    System.out.println(line);
  }
} catch (IOException e) {
  e.printStackTrace();
}
0
vkstream

Javaでファイルを読み取る の多くの方法について広範な記事を書いており、1KBから1GBのサンプルファイルを使用して相互にテストし、次の3つの方法が1GBを読み取るのに最も速いことを発見しましたファイル：

1）Java.nio.file.Files.readAllBytes（）-1 GBのテストファイルを読み取るのに1秒弱かかりました。

import Java.io.File;
import Java.io.IOException;
import Java.nio.file.Files;

public class ReadFile_Files_ReadAllBytes {
  public static void main(String [] pArgs) throws IOException {
    String fileName = "c:\\temp\\sample-10KB.txt";
    File file = new File(fileName);

    byte [] fileBytes = Files.readAllBytes(file.toPath());
    char singleChar;
    for(byte b : fileBytes) {
      singleChar = (char) b;
      System.out.print(singleChar);
    }
  }
}

2）Java.nio.file.Files.lines（）-1 GBのテストファイルを読み込むのに約3.5秒かかりました。

import Java.io.File;
import Java.io.IOException;
import Java.nio.file.Files;
import Java.util.stream.Stream;

public class ReadFile_Files_Lines {
  public static void main(String[] pArgs) throws IOException {
    String fileName = "c:\\temp\\sample-10KB.txt";
    File file = new File(fileName);

    try (Stream linesStream = Files.lines(file.toPath())) {
      linesStream.forEach(line -&gt; {
        System.out.println(line);
      });
    }
  }
}

3）Java.io.BufferedReader-1 GBのテストファイルの読み取りに約4.5秒かかりました。

import Java.io.BufferedReader;
import Java.io.FileReader;
import Java.io.IOException;

public class ReadFile_BufferedReader_ReadLine {
  public static void main(String [] args) throws IOException {
    String fileName = "c:\\temp\\sample-10KB.txt";
    FileReader fileReader = new FileReader(fileName);

    try (BufferedReader bufferedReader = new BufferedReader(fileReader)) {
      String line;
      while((line = bufferedReader.readLine()) != null) {
        System.out.println(line);
      }
    }
  }
}
0
gomisha