Чтение данных видеокартой с диска nvme ssd

@As17 · Регистрация: 15.01.2025

Студворк — интернет-сервис помощи студентам

Здравствуйте.
Есть математика, которая успешно считается на видеокарте, но для дальнейшего хода расчетов необходимо получить пару байт с диска. Сейчас есть убогая реализация через процессор, которая серьезно тормозит скорость расчета.
Есть ли возможность видеокарте самой читать данные с nvme ssd?

Читал про GPUDirect Storage, но как понял, это тоже чтение с помощью процессора...

@a380 · 02.09.2025, 17:09

Сообщение от Jin X

Установить 1 ТБ оперативной памяти. Дорого, но реально

Материнку менять надо.
Сейчас посмотрел на Озоне, память 256 Гб за 500к. Итого 2 ляма.
А Винду как прикрутить ? Ей тупо места не хватит.

@Jin X · 02.09.2025, 17:23

Ну так, понятное дело, что не 3 копейки это будет стоит.

@a380 · 02.09.2025, 17:25

Jin X,
База 1 ТБ.
Что с Виндой делать, для нее нет места.

@jcxz · 02.09.2025, 17:35

Сообщение от Jin X

0.16-0.17 мкс — это 160-170 нс. У RAM latency меньше в несколько раз, даже не на порядок.

Это да - ОЗУ будет всяко лучше. Но ТС вроде не писал, что ему нужно серийное производство организовать. А для одного-двух экземпляров - думаю не разорится.

Добавлено через 1 минуту

Сообщение от a380

Что с Виндой делать, для нее нет места.

~~Скрипач не нужен!~~

Зачем винда? Она не нужна.

@a380 · 02.09.2025, 17:50

Сравнить скорость разных модулей ОЗУ в наносекундах можно с помощью формулы: тайминг*2000/частоту памяти.
ОЗУ с частотой 3600 МГц и таймингами CL14 будет работать со скоростью 14*2000/3600 = 7,8 нс.
4000 МГц на CL16 покажет ровно 8 нс.
Оба варианта примерно одинаковы по скорости, но второй предпочтительнее из-за большей пропускной способности.
В то же время, если взять память с частотой 4000 МГц при CL14, то это будет уже 7 нс. При этом пропускная способность станет еще выше, а время доставки информации снизится на 1 нс.

@Jin X · 02.09.2025, 18:56

Сообщение от a380

Что с Виндой делать, для нее нет места.

Значит найти. Я думаю, что 1 ТБ — это примерный размер. На край есть своп

Сообщение от jcxz

А для одного-двух экземпляров - думаю не разорится.

Мы не знаем, что у него за задача и для чего (ну либо я пропустил эту информацию).

Сообщение от a380

Сравнить скорость разных модулей ОЗУ в наносекундах можно с помощью формулы: тайминг*2000/частоту памяти.
ОЗУ с частотой 3600 МГц и таймингами CL14 будет работать со скоростью 14*2000/3600 = 7,8 нс.

Это всё теория. Есть ещё разные задержки, которые в разы увеличивают итоговую latency памяти. Вот у меня, например, CL17 3500 МГц, по формуле должна быть задержка 17*2000/3500 = 9,7 нс. По тестам AIDA64 latency = 65 нс.

@a380 · 02.09.2025, 19:10

Jin X,
Начнем с того, что 3500 МГц, это 0.28 Nanoseconds.
Насчет AIDA64, ее 1 человек писал, это не фирменная прога, корпорации например.

Сообщение от Jin X

9,7 нс

Нормально.

Добавлено через 2 минуты

Сообщение от Jin X

На край есть своп

Жуткий костыль

@Jin X · 02.09.2025, 19:25

Сообщение от a380

Насчет AIDA64, ее 1 человек писал, это не фирменная прога, корпорации например.

Первую версию, может, и один писал. А сейчас её пишет FinalWire Ltd.

Сообщение от a380

Жуткий костыль

Если данных ровно 1 ТБ, то помимо RAM есть ещё память GPU в несколько ГБ. В общем, для винды хватит. Если данных не 1.1 ТБ или т.п.

@a380 · 02.09.2025, 19:38

Сообщение от Jin X

Если данных не 1.1 ТБ

Автор вроде говорил про 2 ТБ максимум

Сообщение от Jin X

FinalWire Ltd.

Напиши им, что баг нашел, премию дадут.

@As17 · 02.09.2025, 21:38 **[ТС]**

Эко вас, товарищи, понесло.

Все идеи типа "возьми чипы памяти и сам себе спаяй видюху" не приемлемы т.к. существует объективная реальность

- я и моё окружение не обладает такими компетенциями (об этом я уже говорил)
- адресное пространство в 1ТБ имет длину адреса в 5 байт (40 бит) - параллельная передача адреса видится смутно (максимум по байтно).
- даже если такое устройство кто-то может создать появляется вопрос интеграции его в компьютер (как на физическом уровне, так и программном - драйвера)

Возможно я ошибаюсь и вы мне покажите работающее устройство где реализован ваш подход (хотя бы частично), тогда буду изучать ваш опыт. Сейчас мне это видится каким-то стебом.

@a380 · 02.09.2025, 21:46

Сообщение от As17

Все идеи типа "возьми чипы памяти и сам себе спаяй видюху" не приемлемы т.к. существует объективная реальность

Человек просто не в теме, придумал себе теорию, фантазия разыгралась. Микросхемы припаять и прочее.
Поговорить ему захотелось.
Ардуинка на 8 бит и комп, это разные вещи.

@As17 · 02.09.2025, 21:51 **[ТС]**

Jin X,

У вас как эти этапы вычислений и проверок вообще организованы? Каждый раз запускается функция ядра? Или всё делается в одном запуске?

Как писал ранее: есть реализация на CPU - медленная, но работает с диском - там делается все в одном запуске (несколько потоков и каждый поток читает базу по мере надобности).
есть реализация на GPU - в 30 раз быстрее, НО там нет ЕЩЁ никаких проверок (вопрос этой темы поэтому и возник). Как понимаю ТУТ единственное решение Каждый раз запускать функцию CPU.

@Jin X · 03.09.2025, 10:13

As17, есть вариант на спин-локах. То есть у вас есть 2 managed-переменные: флаг и адрес. Когда данные готовы, GPU выставляет флаг. Его же CPU в цикле читает, пока он не станет true (ну или не увеличится на 1). Далее берётся адрес и по нему идёт чтение с диска (или DirectStorage). После готовности CPU выставляет другой флаг, который уже GPU так же ждёт. Сильно грузит процессор, но другого варианта вроде бы нет. Это будет быстрее, чем каждый раз запускать kernel-функцию (если вы это имели в виду).

Добавлено через 1 минуту
Можно и одной переменной обойтись, где флагом является, например, старший бит.
Ну или там будет индекс (он же флаг) + массив, если несколько GPU-потоков могут одновременно несколько данных отдать.

@a380 · 03.09.2025, 11:44

Есть идея про майнинг, несколько видеокарт в SLI. Так можно ускорить вычисления.
Насчет диска аналогично, сделать типа рейд0, базу дробить на диски и переключаться между ними. Хорошая идея ? Надо пробовать, вроде должно работать, хотя и не слишком быстро, на первый взгляд. Надо потестить доступ в начале и конце диска, есть ли большие отличия.

Все равно надо делать предсказание и грузить заранее, нет другого способа ускорить чтение с диска. Даже если напрямую в гпу.

NVMe имеют задержку доступа около 20-30 микросекунд (мкс), тогда как у SATA SSD это примерно 100 мкс, а у традиционных жестких дисков (HDD) – 2-5 миллисекунд (мс).
30 микросекунд это 33 kilohertz

@jcxz · 03.09.2025, 12:26

Сообщение от As17

- я и моё окружение не обладает такими компетенциями (об этом я уже говорил)

Если "не обладают компетенциями", то одно из двух: 1) или учатся и получают компетенции; 2) нанимают человека обладающего.

Сообщение от As17

Сейчас мне это видится каким-то стебом.

Человеку, крутящему ручку арифмометра, рассказ про современные ПК тоже наверняка показался бы стёбом.

Добавлено через 3 минуты

Сообщение от a380

Человек просто не в теме, придумал себе теорию, фантазия разыгралась. Микросхемы припаять и прочее.
Поговорить ему захотелось.
Ардуинка на 8 бит и комп, это разные вещи.

Да, я вижу что для вас что абдурина, что любой другой микроконтроллер - всё равно что для кухарки непонятный шайтан-компьютер. Точно так же как несли бред в теме про "связать два ПК".
Займитесь лучше тем, в чём разбираетесь.

Добавлено через 1 минуту

Сообщение от a380

сделать типа рейд0, базу дробить на диски и переключаться между ними. Хорошая идея ?

Бред дилетанта.

@a380 · 03.09.2025, 12:51

jcxz,
Что насчет даташита ? Ссылка есть ?

@jcxz · 03.09.2025, 13:44

Я выше привёл ссылки. Полный даташит там под NDA. Нужен - заходите подписывайте и получайте.
Кому нужно, тот подпишет и получит. Мне оно не нужно.

Да и та ссылка - это только один из производителей. Наугад. Наверняка и другие есть.
А лучше (как уже писали) - чипы ОЗУ использовать. Хоть и дороже.

PS: Если всё-же в тех закрытых даташитах указано слишком большое время доступа, то тогда видимо остаётся использовать только чипы ОЗУ.

@a380 · 03.09.2025, 14:14

Сообщение от jcxz

в тех закрытых даташитах указано слишком большое время доступа, то тогда видимо остаётся использовать только чипы ОЗУ.

Об этом я и говорил. Это же флешка.

Сообщение от jcxz

А лучше (как уже писали) - чипы ОЗУ использовать. Хоть и дороже.

Почитай, что я написал выше. Очень даже афигенная цена и все равно мало памяти. Перечитай.

И завязывай флудить во всех темах.

@jcxz · 03.09.2025, 14:21

Сообщение от a380

Почитай, что я написал выше. Очень даже афигенная цена и все равно мало памяти.

Чипы памяти можно ставить не один. Для некоторых это как видно не очевидно...

Сообщение от a380

И завязывай флудить во всех темах.

Пока пустой флуд только от вас. Сколько можно тереть про предсказания по чтению диска если сразу было ясно что это не вариант?

@a380 · 03.09.2025, 14:25

Сообщение от jcxz

Чипы памяти можно ставить не один.

Давай сразу пруфы. Даташиты, ссылки, как соединять все это, время доступа и прочее. Тогда имеет смысл об этом говорить.

Сообщение от jcxz

предсказания по чтению диска если сразу было ясно что это не вариант?

Как это не вариант ? Это единственный вариант, перечитай подробно, я объяснил почему.

Новые блоги и статьи Все статьи Все блоги /
сукцессия 29. Переход от одних деревьев на другие делать более или менее вероятностным? anaschu 12.07.2026 Насколько смена типов микоризы — исключительное событие в двухвековой сукцессии? Оценка вероятности в пространстве параметров В текущей версии модели успешно реализован ключевой механизм. . .	сукцессия 27. Думаю, как переделывать уже написанную статью с планами на сукцессию. anaschu 12.07.2026 Анализ соответствия модели требованиям Реализованные компоненты: Механизм закисления почвы через протонную помпу Конкуренция между типами микориз pH как триггер сукцессии C/ P соотношение. . .	Сукцессия 26. Мат модель создана. anaschu 12.07.2026 Модель смены растительных сукцессий посредством управления грибами работает внутри небольшой ячейки почвы, восстанавливающейся после пожара, где ненадолго бывшее царство хвойных снова захватили. . .	Решил проблему с ошибкой пагинации сообщений с сервера на алгоритме обхода дерева "Эстафета хвоста". Hrethgir 12.07.2026 Проблема была в том, что удалялась именно новая кнопка, а не старая. Ни один ИИ не обнаружил это, а сам я смог только когда с работой стало попроще и когда заставил работать будущее автономное. . .
сукцессия 25. Хронология ошибок anaschu 12.07.2026 # От 50-тонного гриба до устойчивого леса: хроника ошибок при построении модели вековой сукцессии микоризы ## О чём эта статья В процессе построения ОДУ-модели (система дифференциальных. . .	сукцессия 24. Промежуточное общее описание модели anaschu 12.07.2026 Хендофф: модель АМ→ЭКМ сукцессии микоризы (ризосфера, 50 лет) Содержание проекта Симуляция вековой (50 лет) экологической сукцессии в почве леса Основные участники: АМ-гриб, ЭКМ-гриб,. . .	сукцессия 23. Более физиологичная физиология, более экологичная экология, более диффурные диффуры. anaschu 12.07.2026 Что реально нашли и починили за эти 5 часов Правило Линдемана (КПД конверсии сахара в тело, kEff) — раньше 100% полученного углерода шло прямо в биомассу гриба; теперь только kEff=0. 5 (после. . .	сукцессия 22. От артефактов к физиологии: калибровка агентной модели грибной сукцессии для воспроизведения сезонной динамики и pH-плато anaschu 11.07.2026 Аннотация В данной работе представлена калибровка агентной модели динамики грибных сообществ (fungal-succession), направленная на устранение нефизичных артефактов (коллапс биомассы, мгновенное. . .

@As17 3 / 3 / 1 Регистрация: 15.01.2025 Сообщений: 52

	Чтение данных видеокартой с диска nvme ssd 31.08.2025, 19:29. Показов 2814. Ответов 59 Метки нет (Все метки) Здравствуйте. Есть математика, которая успешно считается на видеокарте, но для дальнейшего хода расчетов необходимо получить пару байт с диска. Сейчас есть убогая реализация через процессор, которая серьезно тормозит скорость расчета. Есть ли возможность видеокарте самой читать данные с nvme ssd? Читал про GPUDirect Storage, но как понял, это тоже чтение с помощью процессора... 0

@Jin X Asm/C++/Delphi/Py/PHP/VBA 6816 / 2055 / 239 Регистрация: 14.12.2014 Сообщений: 4,318 Записей в блоге: 12
	02.09.2025, 17:23
	Ну так, понятное дело, что не 3 копейки это будет стоит. 0

@a380 110 / 74 / 6 Регистрация: 08.08.2025 Сообщений: 716
	02.09.2025, 17:25
	Jin X, База 1 ТБ. Что с Виндой делать, для нее нет места. 0

@a380 110 / 74 / 6 Регистрация: 08.08.2025 Сообщений: 716
	02.09.2025, 17:50
	Сравнить скорость разных модулей ОЗУ в наносекундах можно с помощью формулы: тайминг2000/частоту памяти. ОЗУ с частотой 3600 МГц и таймингами CL14 будет работать со скоростью 142000/3600 = 7,8 нс. 4000 МГц на CL16 покажет ровно 8 нс. Оба варианта примерно одинаковы по скорости, но второй предпочтительнее из-за большей пропускной способности. В то же время, если взять память с частотой 4000 МГц при CL14, то это будет уже 7 нс. При этом пропускная способность станет еще выше, а время доставки информации снизится на 1 нс. 0

@As17 3 / 3 / 1 Регистрация: 15.01.2025 Сообщений: 52
	02.09.2025, 21:38 [ТС]
	Эко вас, товарищи, понесло. Все идеи типа "возьми чипы памяти и сам себе спаяй видюху" не приемлемы т.к. существует объективная реальность - я и моё окружение не обладает такими компетенциями (об этом я уже говорил) - адресное пространство в 1ТБ имет длину адреса в 5 байт (40 бит) - параллельная передача адреса видится смутно (максимум по байтно). - даже если такое устройство кто-то может создать появляется вопрос интеграции его в компьютер (как на физическом уровне, так и программном - драйвера) Возможно я ошибаюсь и вы мне покажите работающее устройство где реализован ваш подход (хотя бы частично), тогда буду изучать ваш опыт. Сейчас мне это видится каким-то стебом. 0

@Jin X Asm/C++/Delphi/Py/PHP/VBA 6816 / 2055 / 239 Регистрация: 14.12.2014 Сообщений: 4,318 Записей в блоге: 12
	03.09.2025, 10:13
	As17, есть вариант на спин-локах. То есть у вас есть 2 managed-переменные: флаг и адрес. Когда данные готовы, GPU выставляет флаг. Его же CPU в цикле читает, пока он не станет true (ну или не увеличится на 1). Далее берётся адрес и по нему идёт чтение с диска (или DirectStorage). После готовности CPU выставляет другой флаг, который уже GPU так же ждёт. Сильно грузит процессор, но другого варианта вроде бы нет. Это будет быстрее, чем каждый раз запускать kernel-функцию (если вы это имели в виду). Добавлено через 1 минуту Можно и одной переменной обойтись, где флагом является, например, старший бит. Ну или там будет индекс (он же флаг) + массив, если несколько GPU-потоков могут одновременно несколько данных отдать. 0

@a380 110 / 74 / 6 Регистрация: 08.08.2025 Сообщений: 716
	03.09.2025, 11:44
	Есть идея про майнинг, несколько видеокарт в SLI. Так можно ускорить вычисления. Насчет диска аналогично, сделать типа рейд0, базу дробить на диски и переключаться между ними. Хорошая идея ? Надо пробовать, вроде должно работать, хотя и не слишком быстро, на первый взгляд. Надо потестить доступ в начале и конце диска, есть ли большие отличия. Все равно надо делать предсказание и грузить заранее, нет другого способа ускорить чтение с диска. Даже если напрямую в гпу. NVMe имеют задержку доступа около 20-30 микросекунд (мкс), тогда как у SATA SSD это примерно 100 мкс, а у традиционных жестких дисков (HDD) – 2-5 миллисекунд (мс). 30 микросекунд это 33 kilohertz 0

@a380 110 / 74 / 6 Регистрация: 08.08.2025 Сообщений: 716
	03.09.2025, 12:51
	jcxz, Что насчет даташита ? Ссылка есть ? 0

@jcxz 332 / 126 / 8 Регистрация: 19.07.2024 Сообщений: 664
	03.09.2025, 13:44
	Я выше привёл ссылки. Полный даташит там под NDA. Нужен - заходите подписывайте и получайте. Кому нужно, тот подпишет и получит. Мне оно не нужно. Да и та ссылка - это только один из производителей. Наугад. Наверняка и другие есть. А лучше (как уже писали) - чипы ОЗУ использовать. Хоть и дороже. PS: Если всё-же в тех закрытых даташитах указано слишком большое время доступа, то тогда видимо остаётся использовать только чипы ОЗУ. 0