web-dev-qa-db-ja.com

ファイル全体をメモリにロードせずにファイルを読み取り/ストリーミングするにはどうすればよいですか？

ファイル全体をメモリにロードせずに、任意のファイルを読み取って「1つずつ」（バイトごとまたは最高の読み取りパフォーマンスを提供するその他のチャンクサイズを意味する）処理するにはどうすればよいですか？処理の例は、ファイルのMD5ハッシュを生成することですが、答えはどの操作にも当てはまります。

これを持っているか書きたいのですが、既存のコードを入手できればそれも素晴らしいでしょう。

（c＃）

c#filehashmd5md5-file
17
Howiecamp

コンテンツ全体をメモリにロードせずに、1KBのチャンクでファイルを読み取る方法の例を次に示します。

const int chunkSize = 1024; // read the file by chunks of 1KB
using (var file = File.OpenRead("foo.dat"))
{
    int bytesRead;
    var buffer = new byte[chunkSize];
    while ((bytesRead = file.Read(buffer, 0, buffer.Length)) > 0)
    {
        // TODO: Process bytesRead number of bytes from the buffer
        // not the entire buffer as the size of the buffer is 1KB
        // whereas the actual number of bytes that are read are 
        // stored in the bytesRead integer.
    }
}
27
Darin Dimitrov

System.IO.FileStreamはファイルをメモリにロードしません。
このストリームはシーク可能であり、MD5ハッシュアルゴリズムはストリーム（ファイル）のイントロメモリをロードする必要もありません。

file_pathをファイルへのパスに置き換えてください。

byte[] hash = null;

using (var file = new FileStream(file_path, FileMode.Open))
{
    using (var md5 = new System.Security.Cryptography.MD5CryptoServiceProvider())
    {
        hash = md5.ComputeHash(stream);
    }
}

ここで、MD5ハッシュはhash変数に格納されます。

10
Vercas
   int fullfilesize = 0;// full size of file
    int DefaultReadValue = 10485760; //read 10 mb at a time
    int toRead = 10485760;
    int position =0;

  //  int 
 //   byte[] ByteReadFirst = new byte[10485760];

    private void Button_Click(object sender, RoutedEventArgs e)
    {
        using (var fs = new FileStream(@"filepath", FileMode.Open, FileAccess.Read))
        {
            using (MemoryStream requestStream = new MemoryStream())
            {


                fs.Position = position;

                if (fs.Position >= fullfilesize)
                {
                    MessageBox.Show(" all done");
                    return;
                }
                System.Diagnostics.Debug.WriteLine("file position" + fs.Position);

                if (fullfilesize-position < toRead)
                {
                    toRead = fullfilesize - position;
                    MessageBox.Show("last time");
                }
                System.Diagnostics.Debug.WriteLine("toread" + toRead);
                int    bytesRead;
                byte[] buffer = new byte[toRead];
                int offset = 0;
                position += toRead;
                while (toRead > 0 && (bytesRead = fs.Read(buffer, offset, toRead)) > 0)
                {
                    toRead -= bytesRead;
                    offset += bytesRead;
                }

                toRead = DefaultReadValue;


            }
        }
    }

ダリンのをコピーすると、このメソッドはファイルの終わりまで10MBのチャンクを読み取ります

4
Sanath Shetty
const int MAX_BUFFER = 1024;
byte[] Buffer = new byte[MAX_BUFFER];
int BytesRead;
using (System.IO.FileStream fileStream = new FileStream(filePath, FileMode.Open, FileAccess.Read))
    while ((BytesRead = fileStream.Read(Buffer, 0, MAX_BUFFER)) != 0)
    {
        // Process this chunk starting from offset 0 
        // and continuing for bytesRead bytes!
    }
2
CSharper
const long numberOfBytesToReadPerChunk = 1000;//1KB
using (BinaryReader fileData = new BinaryReader(File.OpenRead(aFullFilePath))
    while (fileData.BaseStream.Position - fileData.BaseStream.Length > 0)
        DoSomethingWithAChunkOfBytes(fileData.ReadBytes(numberOfBytesToReadPerChunk));

ここで使用されている関数（具体的にはBinaryReader.ReadBytes）、読み取ったバイト数を追跡​​する必要はありません。 whileループの長さと現在の位置を知る必要があるだけです-ストリームが教えてくれます。

1
Richard Barker