web-dev-qa-db-ja.com

javascript FileReader-チャンクで長いファイルを解析する

解析する必要がある長いファイルがあります。とても長いので、チャンクごとにやる必要があります。私はこれを試しました：

function parseFile(file){
    var chunkSize = 2000;
    var fileSize = (file.size - 1);

    var foo = function(e){
        console.log(e.target.result);
    };

    for(var i =0; i < fileSize; i += chunkSize)
    {
        (function( fil, start ) {
            var reader = new FileReader();
            var blob = fil.slice(start, chunkSize + 1);
            reader.onload = foo;
            reader.readAsText(blob);
        })( file, i );
    }
}

実行後、コンソールには最初のチャンクしか表示されません。 'console.log'をjqueryに変更すると、いくつかのdivに追加されます。そのdivの最初のチャンクのみが表示されます。他のチャンクはどうですか？それを機能させる方法は？

javascripthtmlparsingfilereader
26
mnowotka

FileReader APIは非同期なので、block呼び出しで処理する必要があります。 A for loopは、次のチャンクを読み取る前に各読み取りが完了するのを待たないため、トリックを実行しません。これが実用的なアプローチです。

function parseFile(file, callback) {
    var fileSize   = file.size;
    var chunkSize  = 64 * 1024; // bytes
    var offset     = 0;
    var self       = this; // we need a reference to the current object
    var chunkReaderBlock = null;

    var readEventHandler = function(evt) {
        if (evt.target.error == null) {
            offset += evt.target.result.length;
            callback(evt.target.result); // callback for handling read chunk
        } else {
            console.log("Read error: " + evt.target.error);
            return;
        }
        if (offset >= fileSize) {
            console.log("Done reading file");
            return;
        }

        // of to the next chunk
        chunkReaderBlock(offset, chunkSize, file);
    }

    chunkReaderBlock = function(_offset, length, _file) {
        var r = new FileReader();
        var blob = _file.slice(_offset, length + _offset);
        r.onload = readEventHandler;
        r.readAsText(blob);
    }

    // now let's start the read with the first block
    chunkReaderBlock(offset, chunkSize, file);
}
51
alediaferia

sliceの2番目の引数は、実際には終了バイトです。コードは次のようになります。

 function parseFile(file){
    var chunkSize = 2000;
    var fileSize = (file.size - 1);

    var foo = function(e){
        console.log(e.target.result);
    };

    for(var i =0; i < fileSize; i += chunkSize) {
        (function( fil, start ) {
            var reader = new FileReader();
            var blob = fil.slice(start, chunkSize + start);
            reader.onload = foo;
            reader.readAsText(blob);
        })(file, i);
    }
}

または、これを使用して BlobReader より簡単なインターフェイスを作成できます。

BlobReader(blob)
.readText(function (text) {
  console.log('The text in the blob is', text);
});

詳しくは：

6
Minko Gechev

Response （ fetch の一部）を利用して、ほとんどのものを他のblob、text、jsonに変換し、さらにblobの読み取りに役立つReadableStreamを取得できます。チャンク????

var dest = new WritableStream({
  write (str) {
    console.log(str)
  }
})

new Response(new Blob(['bloby']))
  .body
  // Decode the binary-encoded response to string
  .pipeThrough(new TextDecoderStream())
  .pipeTo(dest)
  .then(() => {
    console.log('done')
  })

古い回答（WritableStreams pipeToおよびpipeThroughは以前に実装されていませんでした）

チャンクサイズやオフセットなどを処理してループですべて再帰的に処理する必要がないため、BLOBをReadableByteStreamReaderに変換するため、おそらく非常に高速な興味深いイデアを思いつきました。

function streamBlob(blob) {
  const reader = new Response(blob).body.getReader()
  const pump = reader => reader.read()
  .then(({ value, done }) => {
    if (done) return
    // uint8array chunk (use TextDecoder to read as text)
    console.log(value)
    return pump(reader)
  })
  return pump(reader)
}

streamBlob(new Blob(['bloby'])).then(() => {
  console.log('done')
})
4
Endless

クラス（ TypeScriptバージョンはこちら ）で@alediaferiaの回答を改訂し、結果をpromiseに返しました。勇敢なコーダーなら async iterator …

class FileStreamer {
    constructor(file) {
        this.file = file;
        this.offset = 0;
        this.defaultChunkSize = 64 * 1024; // bytes
        this.rewind();
    }
    rewind() {
        this.offset = 0;
    }
    isEndOfFile() {
        return this.offset >= this.getFileSize();
    }
    readBlockAsText(length = this.defaultChunkSize) {
        const fileReader = new FileReader();
        const blob = this.file.slice(this.offset, this.offset + length);
        return new Promise((resolve, reject) => {
            fileReader.onloadend = (event) => {
                const target = (event.target);
                if (target.error == null) {
                    const result = target.result;
                    this.offset += result.length;
                    this.testEndOfFile();
                    resolve(result);
                }
                else {
                    reject(target.error);
                }
            };
            fileReader.readAsText(blob);
        });
    }
    testEndOfFile() {
        if (this.isEndOfFile()) {
            console.log('Done reading file');
        }
    }
    getFileSize() {
        return this.file.size;
    }
}

コンソールでファイル全体を印刷する例（ async コンテキスト内）

const fileStreamer = new FileStreamer(aFile);
while (!fileStreamer.isEndOfFile()) {
  const data = await fileStreamer.readBlockAsText();
  console.log(data);
}
3
Flavien Volken

簡単な方法を使用して、大きなファイルを小さなチャンクに解析します。

                //Parse large file in to small chunks
                var parseFile = function (file) {

                        var chunkSize = 1024 * 1024 * 16; //16MB Chunk size
                        var fileSize = file.size;
                        var currentChunk = 1;
                        var totalChunks = Math.ceil((fileSize/chunkSize), chunkSize);

                        while (currentChunk <= scope.totalChunks) {

                            var offset = (currentChunk-1) * chunkSize;
                            var currentFilePart = file.slice(offset, (offset+chunkSize));

                            console.log('Current chunk number is ', currentChunk);
                            console.log('Current chunk data', currentFilePart);

                            currentChunk++;
                        }
                };
1
Radadiya Nikunj