Чтение данных видеокартой с диска nvme ssd

@As17 · Регистрация: 15.01.2025

Студворк — интернет-сервис помощи студентам

Здравствуйте.
Есть математика, которая успешно считается на видеокарте, но для дальнейшего хода расчетов необходимо получить пару байт с диска. Сейчас есть убогая реализация через процессор, которая серьезно тормозит скорость расчета.
Есть ли возможность видеокарте самой читать данные с nvme ssd?

Читал про GPUDirect Storage, но как понял, это тоже чтение с помощью процессора...

@a380 · 02.09.2025, 17:09

Сообщение от Jin X

Установить 1 ТБ оперативной памяти. Дорого, но реально

Материнку менять надо.
Сейчас посмотрел на Озоне, память 256 Гб за 500к. Итого 2 ляма.
А Винду как прикрутить ? Ей тупо места не хватит.

@Jin X · 02.09.2025, 17:23

Ну так, понятное дело, что не 3 копейки это будет стоит.

@a380 · 02.09.2025, 17:25

Jin X,
База 1 ТБ.
Что с Виндой делать, для нее нет места.

@jcxz · 02.09.2025, 17:35

Сообщение от Jin X

0.16-0.17 мкс — это 160-170 нс. У RAM latency меньше в несколько раз, даже не на порядок.

Это да - ОЗУ будет всяко лучше. Но ТС вроде не писал, что ему нужно серийное производство организовать. А для одного-двух экземпляров - думаю не разорится.

Добавлено через 1 минуту

Сообщение от a380

Что с Виндой делать, для нее нет места.

~~Скрипач не нужен!~~

Зачем винда? Она не нужна.

@a380 · 02.09.2025, 17:50

Сравнить скорость разных модулей ОЗУ в наносекундах можно с помощью формулы: тайминг*2000/частоту памяти.
ОЗУ с частотой 3600 МГц и таймингами CL14 будет работать со скоростью 14*2000/3600 = 7,8 нс.
4000 МГц на CL16 покажет ровно 8 нс.
Оба варианта примерно одинаковы по скорости, но второй предпочтительнее из-за большей пропускной способности.
В то же время, если взять память с частотой 4000 МГц при CL14, то это будет уже 7 нс. При этом пропускная способность станет еще выше, а время доставки информации снизится на 1 нс.

@Jin X · 02.09.2025, 18:56

Сообщение от a380

Что с Виндой делать, для нее нет места.

Значит найти. Я думаю, что 1 ТБ — это примерный размер. На край есть своп

Сообщение от jcxz

А для одного-двух экземпляров - думаю не разорится.

Мы не знаем, что у него за задача и для чего (ну либо я пропустил эту информацию).

Сообщение от a380

Сравнить скорость разных модулей ОЗУ в наносекундах можно с помощью формулы: тайминг*2000/частоту памяти.
ОЗУ с частотой 3600 МГц и таймингами CL14 будет работать со скоростью 14*2000/3600 = 7,8 нс.

Это всё теория. Есть ещё разные задержки, которые в разы увеличивают итоговую latency памяти. Вот у меня, например, CL17 3500 МГц, по формуле должна быть задержка 17*2000/3500 = 9,7 нс. По тестам AIDA64 latency = 65 нс.

@a380 · 02.09.2025, 19:10

Jin X,
Начнем с того, что 3500 МГц, это 0.28 Nanoseconds.
Насчет AIDA64, ее 1 человек писал, это не фирменная прога, корпорации например.

Сообщение от Jin X

9,7 нс

Нормально.

Добавлено через 2 минуты

Сообщение от Jin X

На край есть своп

Жуткий костыль

@Jin X · 02.09.2025, 19:25

Сообщение от a380

Насчет AIDA64, ее 1 человек писал, это не фирменная прога, корпорации например.

Первую версию, может, и один писал. А сейчас её пишет FinalWire Ltd.

Сообщение от a380

Жуткий костыль

Если данных ровно 1 ТБ, то помимо RAM есть ещё память GPU в несколько ГБ. В общем, для винды хватит. Если данных не 1.1 ТБ или т.п.

@a380 · 02.09.2025, 19:38

Сообщение от Jin X

Если данных не 1.1 ТБ

Автор вроде говорил про 2 ТБ максимум

Сообщение от Jin X

FinalWire Ltd.

Напиши им, что баг нашел, премию дадут.

@As17 · 02.09.2025, 21:38 **[ТС]**

Эко вас, товарищи, понесло.

Все идеи типа "возьми чипы памяти и сам себе спаяй видюху" не приемлемы т.к. существует объективная реальность

- я и моё окружение не обладает такими компетенциями (об этом я уже говорил)
- адресное пространство в 1ТБ имет длину адреса в 5 байт (40 бит) - параллельная передача адреса видится смутно (максимум по байтно).
- даже если такое устройство кто-то может создать появляется вопрос интеграции его в компьютер (как на физическом уровне, так и программном - драйвера)

Возможно я ошибаюсь и вы мне покажите работающее устройство где реализован ваш подход (хотя бы частично), тогда буду изучать ваш опыт. Сейчас мне это видится каким-то стебом.

@a380 · 02.09.2025, 21:46

Сообщение от As17

Все идеи типа "возьми чипы памяти и сам себе спаяй видюху" не приемлемы т.к. существует объективная реальность

Человек просто не в теме, придумал себе теорию, фантазия разыгралась. Микросхемы припаять и прочее.
Поговорить ему захотелось.
Ардуинка на 8 бит и комп, это разные вещи.

@As17 · 02.09.2025, 21:51 **[ТС]**

Jin X,

У вас как эти этапы вычислений и проверок вообще организованы? Каждый раз запускается функция ядра? Или всё делается в одном запуске?

Как писал ранее: есть реализация на CPU - медленная, но работает с диском - там делается все в одном запуске (несколько потоков и каждый поток читает базу по мере надобности).
есть реализация на GPU - в 30 раз быстрее, НО там нет ЕЩЁ никаких проверок (вопрос этой темы поэтому и возник). Как понимаю ТУТ единственное решение Каждый раз запускать функцию CPU.

@Jin X · 03.09.2025, 10:13

As17, есть вариант на спин-локах. То есть у вас есть 2 managed-переменные: флаг и адрес. Когда данные готовы, GPU выставляет флаг. Его же CPU в цикле читает, пока он не станет true (ну или не увеличится на 1). Далее берётся адрес и по нему идёт чтение с диска (или DirectStorage). После готовности CPU выставляет другой флаг, который уже GPU так же ждёт. Сильно грузит процессор, но другого варианта вроде бы нет. Это будет быстрее, чем каждый раз запускать kernel-функцию (если вы это имели в виду).

Добавлено через 1 минуту
Можно и одной переменной обойтись, где флагом является, например, старший бит.
Ну или там будет индекс (он же флаг) + массив, если несколько GPU-потоков могут одновременно несколько данных отдать.

@a380 · 03.09.2025, 11:44

Есть идея про майнинг, несколько видеокарт в SLI. Так можно ускорить вычисления.
Насчет диска аналогично, сделать типа рейд0, базу дробить на диски и переключаться между ними. Хорошая идея ? Надо пробовать, вроде должно работать, хотя и не слишком быстро, на первый взгляд. Надо потестить доступ в начале и конце диска, есть ли большие отличия.

Все равно надо делать предсказание и грузить заранее, нет другого способа ускорить чтение с диска. Даже если напрямую в гпу.

NVMe имеют задержку доступа около 20-30 микросекунд (мкс), тогда как у SATA SSD это примерно 100 мкс, а у традиционных жестких дисков (HDD) – 2-5 миллисекунд (мс).
30 микросекунд это 33 kilohertz

@jcxz · 03.09.2025, 12:26

Сообщение от As17

- я и моё окружение не обладает такими компетенциями (об этом я уже говорил)

Если "не обладают компетенциями", то одно из двух: 1) или учатся и получают компетенции; 2) нанимают человека обладающего.

Сообщение от As17

Сейчас мне это видится каким-то стебом.

Человеку, крутящему ручку арифмометра, рассказ про современные ПК тоже наверняка показался бы стёбом.

Добавлено через 3 минуты

Сообщение от a380

Человек просто не в теме, придумал себе теорию, фантазия разыгралась. Микросхемы припаять и прочее.
Поговорить ему захотелось.
Ардуинка на 8 бит и комп, это разные вещи.

Да, я вижу что для вас что абдурина, что любой другой микроконтроллер - всё равно что для кухарки непонятный шайтан-компьютер. Точно так же как несли бред в теме про "связать два ПК".
Займитесь лучше тем, в чём разбираетесь.

Добавлено через 1 минуту

Сообщение от a380

сделать типа рейд0, базу дробить на диски и переключаться между ними. Хорошая идея ?

Бред дилетанта.

@a380 · 03.09.2025, 12:51

jcxz,
Что насчет даташита ? Ссылка есть ?

@jcxz · 03.09.2025, 13:44

Я выше привёл ссылки. Полный даташит там под NDA. Нужен - заходите подписывайте и получайте.
Кому нужно, тот подпишет и получит. Мне оно не нужно.

Да и та ссылка - это только один из производителей. Наугад. Наверняка и другие есть.
А лучше (как уже писали) - чипы ОЗУ использовать. Хоть и дороже.

PS: Если всё-же в тех закрытых даташитах указано слишком большое время доступа, то тогда видимо остаётся использовать только чипы ОЗУ.

@a380 · 03.09.2025, 14:14

Сообщение от jcxz

в тех закрытых даташитах указано слишком большое время доступа, то тогда видимо остаётся использовать только чипы ОЗУ.

Об этом я и говорил. Это же флешка.

Сообщение от jcxz

А лучше (как уже писали) - чипы ОЗУ использовать. Хоть и дороже.

Почитай, что я написал выше. Очень даже афигенная цена и все равно мало памяти. Перечитай.

И завязывай флудить во всех темах.

@jcxz · 03.09.2025, 14:21

Сообщение от a380

Почитай, что я написал выше. Очень даже афигенная цена и все равно мало памяти.

Чипы памяти можно ставить не один. Для некоторых это как видно не очевидно...

Сообщение от a380

И завязывай флудить во всех темах.

Пока пустой флуд только от вас. Сколько можно тереть про предсказания по чтению диска если сразу было ясно что это не вариант?

@a380 · 03.09.2025, 14:25

Сообщение от jcxz

Чипы памяти можно ставить не один.

Давай сразу пруфы. Даташиты, ссылки, как соединять все это, время доступа и прочее. Тогда имеет смысл об этом говорить.

Сообщение от jcxz

предсказания по чтению диска если сразу было ясно что это не вариант?

Как это не вариант ? Это единственный вариант, перечитай подробно, я объяснил почему.

Новые блоги и статьи Все статьи Все блоги /
Был там один разговор по поводу свободы в материальном мире. kumehtar 19.08.2026 Суть: рассматривается живое существо, оказавшееся внутри довольно странной системы (этого мира) и пытающееся обустроить в ней свой кусок пространства. Жизнь действительно предъявляет каждому. . .	Когда логика программы не спасает от человеческих ошибок Maks 18.08.2026 В последнее время всё чаще и чаще сталкиваюсь с таким явлением, как абсолютная невнимательность (или глупость) пользователей. Проявляется это чаще всего на работе в коллективе. Допустим, человек с. . .	Лето уходит kumehtar 17.08.2026	Мысли в слух kumehtar 17.08.2026 Забавно, насколько сейчас стала доступна информация. Например о магии, духовном развитии, медитациях, и других подобных направлениях, ранее зачастую тайных, передаваемых от учителя к ученику. Хотя. . .
Перемещение строк из ТЧ в другой документ с учетом текущего пробега Maks 17.08.2026 Реализация из решения ниже выполнена на примере нетипового документа "Автозапчасти", с ТЧ "Шины". За основу взят алгоритм отсюда: https:/ / www. cyberforum. ru/ blogs/ 359708/ 10838. html Задача: . . .	Саморегулирующийся социальный контракт для сервера cross-section. Hrethgir 14.08.2026 С кодом конечно таких глубоких размышлений пока не было, впрочем я уже привык к алгоритмизации. Суть предмета записи: снова в диалоге с нейросетью (я взял пока себе ник для учётки админа - Rector). . . .	Часы электронные Uhbif79 12.08.2026 Выкладываю программу часов. Программа позволяет: 1. Использовать системное время и дату, 2. Есть возможность вводить время и дату вручную. 3. Реализованы 2 будильника: начало и конец рабочего дня. . . .	Часы с будильником на основе класса QLCDNumber Uhbif79 12.08.2026 Всем добрый день, выкладываю программу часов с будильником на основе класса QLCDNumber. Здесь я пробовал самостоятельно создавал классы, впервые столкнулся с видимостью переменной одного класса из. . .

@As17 3 / 3 / 1 Регистрация: 15.01.2025 Сообщений: 52

	Чтение данных видеокартой с диска nvme ssd 31.08.2025, 19:29. Показов 3074. Ответов 59 Метки нет (Все метки) Здравствуйте. Есть математика, которая успешно считается на видеокарте, но для дальнейшего хода расчетов необходимо получить пару байт с диска. Сейчас есть убогая реализация через процессор, которая серьезно тормозит скорость расчета. Есть ли возможность видеокарте самой читать данные с nvme ssd? Читал про GPUDirect Storage, но как понял, это тоже чтение с помощью процессора... 0

@Jin X Asm/C++/Delphi/Py/PHP/VBA 6817 / 2056 / 239 Регистрация: 14.12.2014 Сообщений: 4,320 Записей в блоге: 12
	02.09.2025, 17:23
	Ну так, понятное дело, что не 3 копейки это будет стоит. 0

@a380 110 / 74 / 6 Регистрация: 08.08.2025 Сообщений: 716
	02.09.2025, 17:25
	Jin X, База 1 ТБ. Что с Виндой делать, для нее нет места. 0

@a380 110 / 74 / 6 Регистрация: 08.08.2025 Сообщений: 716
	02.09.2025, 17:50
	Сравнить скорость разных модулей ОЗУ в наносекундах можно с помощью формулы: тайминг2000/частоту памяти. ОЗУ с частотой 3600 МГц и таймингами CL14 будет работать со скоростью 142000/3600 = 7,8 нс. 4000 МГц на CL16 покажет ровно 8 нс. Оба варианта примерно одинаковы по скорости, но второй предпочтительнее из-за большей пропускной способности. В то же время, если взять память с частотой 4000 МГц при CL14, то это будет уже 7 нс. При этом пропускная способность станет еще выше, а время доставки информации снизится на 1 нс. 0

@As17 3 / 3 / 1 Регистрация: 15.01.2025 Сообщений: 52
	02.09.2025, 21:38 [ТС]
	Эко вас, товарищи, понесло. Все идеи типа "возьми чипы памяти и сам себе спаяй видюху" не приемлемы т.к. существует объективная реальность - я и моё окружение не обладает такими компетенциями (об этом я уже говорил) - адресное пространство в 1ТБ имет длину адреса в 5 байт (40 бит) - параллельная передача адреса видится смутно (максимум по байтно). - даже если такое устройство кто-то может создать появляется вопрос интеграции его в компьютер (как на физическом уровне, так и программном - драйвера) Возможно я ошибаюсь и вы мне покажите работающее устройство где реализован ваш подход (хотя бы частично), тогда буду изучать ваш опыт. Сейчас мне это видится каким-то стебом. 0

@Jin X Asm/C++/Delphi/Py/PHP/VBA 6817 / 2056 / 239 Регистрация: 14.12.2014 Сообщений: 4,320 Записей в блоге: 12
	03.09.2025, 10:13
	As17, есть вариант на спин-локах. То есть у вас есть 2 managed-переменные: флаг и адрес. Когда данные готовы, GPU выставляет флаг. Его же CPU в цикле читает, пока он не станет true (ну или не увеличится на 1). Далее берётся адрес и по нему идёт чтение с диска (или DirectStorage). После готовности CPU выставляет другой флаг, который уже GPU так же ждёт. Сильно грузит процессор, но другого варианта вроде бы нет. Это будет быстрее, чем каждый раз запускать kernel-функцию (если вы это имели в виду). Добавлено через 1 минуту Можно и одной переменной обойтись, где флагом является, например, старший бит. Ну или там будет индекс (он же флаг) + массив, если несколько GPU-потоков могут одновременно несколько данных отдать. 0

@a380 110 / 74 / 6 Регистрация: 08.08.2025 Сообщений: 716
	03.09.2025, 11:44
	Есть идея про майнинг, несколько видеокарт в SLI. Так можно ускорить вычисления. Насчет диска аналогично, сделать типа рейд0, базу дробить на диски и переключаться между ними. Хорошая идея ? Надо пробовать, вроде должно работать, хотя и не слишком быстро, на первый взгляд. Надо потестить доступ в начале и конце диска, есть ли большие отличия. Все равно надо делать предсказание и грузить заранее, нет другого способа ускорить чтение с диска. Даже если напрямую в гпу. NVMe имеют задержку доступа около 20-30 микросекунд (мкс), тогда как у SATA SSD это примерно 100 мкс, а у традиционных жестких дисков (HDD) – 2-5 миллисекунд (мс). 30 микросекунд это 33 kilohertz 0

@a380 110 / 74 / 6 Регистрация: 08.08.2025 Сообщений: 716
	03.09.2025, 12:51
	jcxz, Что насчет даташита ? Ссылка есть ? 0

@jcxz 342 / 134 / 10 Регистрация: 19.07.2024 Сообщений: 765
	03.09.2025, 13:44
	Я выше привёл ссылки. Полный даташит там под NDA. Нужен - заходите подписывайте и получайте. Кому нужно, тот подпишет и получит. Мне оно не нужно. Да и та ссылка - это только один из производителей. Наугад. Наверняка и другие есть. А лучше (как уже писали) - чипы ОЗУ использовать. Хоть и дороже. PS: Если всё-же в тех закрытых даташитах указано слишком большое время доступа, то тогда видимо остаётся использовать только чипы ОЗУ. 0