OutOfMemory при сравнении MD5 нескольких больших файлов

@aquaMakc · Регистрация: 14.02.2014

Студворк — интернет-сервис помощи студентам

Доброго времени суток.
Пилю программу файловой односторонней синхронизации заточенную под нужды организации.
Есть некий список синхронизируемых файлов.
Программа проходится по списку, проверяет файлы на наличие, если они есть - сверяется их MD5. Если MD5 не совпадают конечный файл заменяется файлом источником.
Возникла проблема:
MD5 я рассчитываю по массиву байт содержимого файлов.
Для этого использую метод File.ReadAllBytes();. В списке синхронизации могут оказаться большие файлы (от полутора гиг и больше), соответственно в какой-то момент у меня программа падает в данное исключение.
Ради интереса пробовал большие файлы проверять побайтно используя FileStream.ReadByte();, само-собой время проверки одного файла ЗНАЧИТЕЛЬНО выросло.
Может есть какой-нибудь другой способ сравнения файлов?

Проверять по размеру - не предлагайте. Во-первых, эта проверка уже есть - если файлы не совпадают по размеру - файл заменяется. Во-вторых, содержимое файла может измениться, без изменения размера.

Someone007 · 17.02.2016, 18:21

C#
1
2
3
4
5
6
7
using (var md5 = MD5.Create())
{
    using (var stream = File.OpenRead(filename))
    {
        return md5.ComputeHash(stream);
    }
}

@aquaMakc · 17.02.2016, 18:25 **[ТС]**

Someone007, ) спасибо. Только хотел написать, что уже переделал под потоки и тем-самым решил проблему. Открываю тему, а тут уже написано.

Новые блоги и статьи Все статьи Все блоги /
SDL3 для Web (WebAssembly): Обработчик клика мыши в браузере ПК и касания экрана в браузере на мобильном устройстве 8Observer8 02.02.2026 Содержание блога Для начала пошагово создадим рабочий пример для подготовки к экспериментам в браузере ПК и в браузере мобильного устройства. Потом напишем обработчик клика мыши и обработчик. . .	Философия технологии iceja 01.02.2026 На мой взгляд у человека в технических проектах остается роль генерального директора. Все остальное нейронки делают уже лучше человека. Они не могут нести предпринимательские риски, не могут. . .	SDL3 для Web (WebAssembly): Вывод текста со шрифтом TTF с помощью SDL3_ttf 8Observer8 01.02.2026 Содержание блога В этой пошаговой инструкции создадим с нуля веб-приложение, которое выводит текст в окне браузера. Запустим на Android на локальном сервере. Загрузим Release на бесплатный. . .	SDL3 для Web (WebAssembly): Сборка C/C++ проекта из консоли 8Observer8 30.01.2026 Содержание блога Если вы откроете примеры для начинающих на официальном репозитории SDL3 в папке: examples, то вы увидите, что все примеры используют следующие четыре обязательные функции, а. . .
SDL3 для Web (WebAssembly): Установка Emscripten SDK (emsdk) и CMake для сборки C и C++ приложений в Wasm 8Observer8 30.01.2026 Содержание блога Для того чтобы скачать Emscripten SDK (emsdk) необходимо сначало скачать и уставить Git: Install for Windows. Следуйте стандартной процедуре установки Git через установщик. . . .	SDL3 для Android: Подключение Box2D v3, физика и отрисовка коллайдеров 8Observer8 29.01.2026 Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами. Версия v3 была полностью переписана на Си, в. . .	Инструменты COM: Сохранение данный из VARIANT в файл и загрузка из файла в VARIANT bedvit 28.01.2026 Сохранение базовых типов COM и массивов (одномерных или двухмерных) любой вложенности (деревья) в файл, с возможностью выбора алгоритмов сжатия и шифрования. Часть библиотеки BedvitCOM Использованы. . .	SDL3 для Android: Загрузка PNG с альфа-каналом с помощью SDL_LoadPNG (без SDL3_image) 8Observer8 28.01.2026 Содержание блога SDL3 имеет собственные средства для загрузки и отображения PNG-файлов с альфа-каналом и базовой работы с ними. В этой инструкции используется функция SDL_LoadPNG(), которая. . .

@aquaMakc 484 / 397 / 68 Регистрация: 14.02.2014 Сообщений: 1,930

	.NET 4.x OutOfMemory при сравнении MD5 нескольких больших файлов 17.02.2016, 17:56. Показов 2643. Ответов 2 Метки нет (Все метки) Доброго времени суток. Пилю программу файловой односторонней синхронизации заточенную под нужды организации. Есть некий список синхронизируемых файлов. Программа проходится по списку, проверяет файлы на наличие, если они есть - сверяется их MD5. Если MD5 не совпадают конечный файл заменяется файлом источником. Возникла проблема: MD5 я рассчитываю по массиву байт содержимого файлов. Для этого использую метод `File.ReadAllBytes();`. В списке синхронизации могут оказаться большие файлы (от полутора гиг и больше), соответственно в какой-то момент у меня программа падает в данное исключение. Ради интереса пробовал большие файлы проверять побайтно используя `FileStream.ReadByte();`, само-собой время проверки одного файла ЗНАЧИТЕЛЬНО выросло. Может есть какой-нибудь другой способ сравнения файлов? Проверять по размеру - не предлагайте. Во-первых, эта проверка уже есть - если файлы не совпадают по размеру - файл заменяется. Во-вторых, содержимое файла может измениться, без изменения размера. 0

@aquaMakc 484 / 397 / 68 Регистрация: 14.02.2014 Сообщений: 1,930
	17.02.2016, 18:25 [ТС]
	Someone007, ) спасибо. Только хотел написать, что уже переделал под потоки и тем-самым решил проблему. Открываю тему, а тут уже написано. 0

OutOfMemory при сравнении MD5 нескольких больших файлов

Решение