Получить хэш файла

@DimaDima1985 · Регистрация: 15.11.2017

Студворк — интернет-сервис помощи студентам

Всем привет!
Есть задача получить хеш файла в браузере после того, как юзер добавит его в инпут.

Самое важное: файл может быть любого размера. Т.е. файл может быть 1 Гб.
Для хеширования взял популярную у всех CryptoJS.
Всё прекрасно работает, пока берутся относительно небольшие файлы. А вот с огромными файлами возникают проблемы - хром выдаёт ошибку, FF нет.

Инпут:

HTML5
1
2
3
4
<input type="file" id="input" multiple>
 
<script src="node_modules/crypto-js/crypto-js.js"></script>
<script src="script.js"></script>

Получение хеша:

JavaScript
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
const input = document.getElementById('input');
 
input.addEventListener('change', hadleInputFilesChange);
 
function hadleInputFilesChange() {
    if (input.files.length === 0) { return; }
    
    const reader = new FileReader();
    
    reader.onload = function(e) {
        const ab = e.target.result;
        const wa = CryptoJS.lib.WordArray.create(ab); // конвертируем наш ArrayBuffer в объект класса WordArray (это класс из CryptoJS)
        const hash = CryptoJS.SHA256(wa).toString(); // получаем хэш
        console.log(hash); 
    }
    
    const file = input.files[0];
    
    reader.readAsArrayBuffer(file);
}

Добавлено через 3 минуты
Потом решил всё перенести в Веб-Воркер, всё-таки эта штука и создана для тяжёлых вычислений.

JavaScript
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
const input = document.getElementById('input');
 
input.addEventListener('change', hadleInputFilesChange);
 
function hadleInputFilesChange() {
    if (input.files.length === 0) { return; }
    
    const reader = new FileReader();
    reader.onload = function(e) {
        const ab = e.target.result;
        worker.postMessage(ab); // ArrayBuffer  - исключение, он не копируется, а переносится в воркер
    }
    
    const file = input.files[0];
    
    reader.readAsArrayBuffer(file);
}
 
const worker = new Worker("hash_worker.js");

JavaScript
1
2
3
4
5
6
7
8
9
10
11
12
13
// hash_worker.js
importScripts('node_modules/crypto-js/crypto-js.js'); // у нас теперь есть CryptoJS в воркере
 
self.onmessage = function(msg) {
    console.log('Получил сообщение из глобального скоупа.');
    
    if (msg.data instanceof ArrayBuffer) {
        const ab = msg.data;
        const wa = CryptoJS.lib.WordArray.create(ab); // конвертируем наш ArrayBuffer в объект класса WordArray (это класс из CryptoJS)
        const hash = CryptoJS.SHA256(wa).toString(); // получаем хэш
        console.log(hash); 
    }
};

Но нет. Хром ломается на больших файлах.

Можете, что подсказать?

Добавлено через 47 минут
Вот что я интересное нашёл. CryptoJS позволяет кусками отдавать строку на хеш, называется Progressive Hashing:

JavaScript
1
2
3
4
5
6
7
var sha256 = CryptoJS.algo.SHA256.create();
sha256.update('Считай эти ');
sha256.update('куски текста ');
sha256.update('одной строкой.');
var myhash = sha256.finalize();
 
console.log(myhash.toString());

Добавлено через 1 час 33 минуты
Может, кому интересно, вот мой рабочий вариант:

JavaScript
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
const input = document.getElementById('input');
const chunkSize = 1000 * 1000 * 2; // размер одного куска в байтах
 
input.addEventListener('change', hadleInputFilesChange);
 
function hadleInputFilesChange() {
    if (input.files.length === 0) { return; }
 
    console.time();
    const sha256 = CryptoJS.algo.SHA256.create();
    const file = input.files[0];
    const fileSize = file.size;
    const partsAmount = Math.ceil(fileSize / chunkSize);
    let i = 0;
    
    function readPart() {
        console.log('Шаг ' + i);
        const reader = new FileReader();
        reader.onload = function(e) {
            const ab = e.target.result;
            const wa = CryptoJS.lib.WordArray.create(ab);
            sha256.update(wa);
            i++;
            if (i === partsAmount) {
                const hash = sha256.finalize().toString();
                console.log(hash); // выводим хэш большого файла
                console.timeEnd();
                return;
            } else {
                readPart();
            }
        }   
        reader.readAsArrayBuffer(file.slice(i * chunkSize, (i + 1) * chunkSize));
    }
    
    readPart();
}

На файле в 1,5 гигабайта заняло время 76 секунд. Скорость, конечно, сильно зависит от скорости процессора и скорости диска.
Плюс есть риск переполнения рекурсии на ещё более крупных файлах.

Добавлено через 1 минуту
Любопытно, что php со своим hash_file() sha256 хеш этого же 1,5гб файла считает за 11 секунд.

@DimaDima1985 · 08.09.2021, 21:11 **[ТС]**

Добавлю, если вдруг кому-то с поисковика выдаст тему. Вот тут баг, при размере файла в 0 байт. Надо проверку дописать:

JavaScript
1
2
    let partsAmount = Math.ceil(fileSize / chunkSize);
    if (partsAmount === 0) { partsAmount = 1; } // если размер файла равен нулю

Новые блоги и статьи Все статьи Все блоги /
сукцессия микоризы: основная теория в виде двух уравнений. anaschu 11.01.2026 https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/	WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .	Почему дизайн решает? Neotwalker 09.01.2026 В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .
Модель микоризы: классовый агентный подход 3 anaschu 06.01.2026 aa0a7f55b50dd51c5ec569d2d10c54f6/ O1rJuneU_ls https:/ / vkvideo. ru/ video-115721503_456239114	Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR ФедосеевПавел 06.01.2026 Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR ВВЕДЕНИЕ Введу сокращения: аналоговый ПИД — ПИД регулятор с управляющим выходом в виде числа в диапазоне от 0% до. . .	Модель микоризы: классовый агентный подход 2 anaschu 06.01.2026 репозиторий https:/ / github. com/ shumilovas/ fungi ветка по-частям. коммит Create переделка под биомассу. txt вход sc, но sm считается внутри мицелия. кстати, обьем тоже должен там считаться. . . .	Расчёт токов в цепи постоянного тока igorrr37 05.01.2026 / * Дана цепь постоянного тока с сопротивлениями и источниками (напряжения, ЭДС и тока). Найти токи и напряжения во всех элементах. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа и. . .