Как распараллелить вычисления не множа копии данных и получить прирост производительности?

	Комментарий модератора
	Сообщение вынесено из темы Реализация потока в Delphi

Сообщение от krapotkin 1. каждый поток должен иметь свою копию данных

Подскажите пожалуйста: Есть массив данных в 3 ГБ. Т.к. накладно иметь копию таких данных для каждого потока, то была идея сделать общий массив в глобальной переменной и каждый поток будет обращаться к нему по мере надобности (в одно вычисление читается 1-3 байта. Массив не изменяется.). Но на практике получилось, что на одной и той же задаче один поток работает быстрее, чем несколько.
Вопрос: Как распараллелить вычисления не множа копии данных и получить прирост производительности?

0

As17, я надеюсь sinchronize не используете???

0

As17, есть книга про потоки в Дельфи Martin Harvey 2000. "Multithreading - The Delphi Way.". Её можно не сложно нагуглить по названию в яндексе, первая выдача. В главе "Chapter 2. Creating a thread in Delphi." написано:

Communication issues. These occur when you have two threads which are both running, and you need to communicate between them in any way, shape or form. This program dodges the issue, by simply not having any communication at all between separate threads. Suffice to say at this point, that unless you protect all operations on shared data (for an adequate definition of "protect"), your program is quite likely to be non-deterministic. If you do not have adequate synchronization or concurrency control, the following are no-no's: Accessing any form of shared resource between two threads. Playing with thread unsafe parts of the VCL in a non-VCL thread. Attempting to do graphics operations in a separate thread. Even doing things as simple as having two threads accessing a shared integer variable can result in complete disaster, and unsynchronized access to shared resources or VCL calls will result in many hours of fraught debugging, considerable confusion, and eventual consignment to the nearest mental hospital. Until you have learnt the appropriate techniques in later chapters,dDon't do it.

Где-то ещё я читал, что если в потоке есть обращение к общему ресурсу, то Дельфи запустит оба потока в не параллельном режиме, а в последовательном. В каждый момент времени будет работать только один из потоков (т.е. использовать процессор и что либо ещё). Итого все запущенные потоки будут работать на одном процессорном потоке или логическом ядре. Если у вас тяжёлые расчёты, то будет упор в процессор. Выглядеть это будет так: процесс полностью занимает только одно логическое ядро. Если одно логическое ядро это 8% от всего (100/12), то программа в диспетчере будет занимать 8% "всего процессора". Если такую программу Дельфи запустит в параллельном режиме, то загрузка процессора сможет вырасти выше 8%.
Скорее всего вы не занимались управлениями потоков, поэтому у вас не доступ к массиву последовательный, а даже расчёт последовательно выполняется.
Как заставить Дельфи запустить потоки параллельно написано в книге. Если в двух словах - или избавиться от доступа к общему ресурсу или использовать приёмы типа синхронизации, критических секций. Есть ещё штуки для управления потоками, но я не освоил Mutex-ы.

0

As17, нашел свой тест параллельной сортировки. работает. написано тупо и линейно. нажать тымпочки ген, копиарр, тестпаралл.

ParallelSort.zip

0

тогда нужно всего лишь взять пример массива в 1 мбайт и сделать тестовый проект, который нужно выложить сюда, чтобы можно было понять, в чем проблема
чаще всего предположения автора о том как работает его программа, немного расходятся с реальностью...

Добавлено через 4 минуты

Сообщение от Rayvenor Дельфи запустит оба потока в не параллельном режиме, а в последовательном

что за городские легенды?
делфи вообще ничего не проверит и не запустит "в последовательном режиме" хотя бы потому, что запущенными потоками управляет ОС
если ресурс read-only, то его чтение хоть из 100 потоков не приведет к изменению памяти, поэтому будет вполне безопасно

0

As17, и если вы задумались добавить в свою программу классические потоки, то первое что нужно прочитать это статью из блога krapotkin https://www.cyberforum.ru/blogs/469693/4875.html
Есть ещё другая реализация потоков в Дельфи из библиотеки Parallel Programming Library (PPL). Там сделано всё проще и удобнее, но мне было освоится так же тяжело, как и с классическими, т.к. информации в интернете очень мало, и она вся перекопипащена друг у друга. Даже стрим русскоязычных комьюнити-менеджеров и демо-проект оставили вопросы.

Добавлено через 2 минуты

Сообщение от krapotkin делфи вообще ничего не проверит и не запустит "в последовательном режиме" хотя бы потому, что запущенными потоками управляет ОС

Да, не Дельфи, а "программа, написанная на Дельфи". Про другие ЯП не знаю, не сравнивал. Я лично столкнулся с таким поведением.

0

As17, давайте проект на пробу. И с данными как-то придумать бы, чтобы сгенерировать похоже и тоже попробовать потестить.

Сообщение от As17 Такое чувство, что при чтении одного элемента массива одним потоком, данные из ВСЕГО массива для второго потока на какое-то время не доступны.

Чтение одного байта из 3 ГБ массива будет идти не быстро - его скорее всего не будет в кэше процессора, и использование 2 потоков этот процесс практически не ускорит.
В общем, давайте проект на пробу.

0

Ну, с 3 гб ничего и никогда не будет в кэше процессора
Все будет идти со скоростью обращения к памяти, но это все равно немало
Если я правильно понял идею, потоки для вычислений все равно надо кормить, а вычисления скорее всего должны длиться дольше чем доступ, поэтому распараллеливание скорее всего принесет пользу.

0

Сообщение от As17 krapotkin, Нашли Х(i). Х это ряд байт, которые мы понимаем как байт данных и адрес в массиве

Что такое "адрес в массиве"? индекс в массиве?

0

stalkernet, процессор ryzen 5 (6 ядер, 12 потоков). Привязка к ядру не влияет на общие тормоза. (На одном потоке результат немного быстрее получается когда поток привязан к ядру.)
Смотрю системным "Монитором ресурсов".

Запусти просто в цикле математику без проверки и посмотри нагрузку.

Ваш совет помог выяснить, что я ошибался.

Запустил только математику без чтения массива в обоих потоках - тормоза остались.
Запустил чтение массива в обоих потоках, а математику оставил в одном потоке - хорошо работает (загрузка каждого ядра 100%, потоки разнесены по ядрам).
Т.е. мое предложение, что чтение общего массива взаимно мешает работе потоков не верно.
А вот математика реализована через стороннюю библиотеку (Velthuis.BigIntegers.pas) и потоки вызывают одни и те же функции. А также следует отметить, что главный поток и вспомогательные потоки описаны в одном файле.

Если поток вынести в отдельный unit это поможет потокам считать математику без тормозов?

0

Сообщение от As17 Если поток вынести в отдельный unit это поможет потокам считать математику без тормозов?

Нет. В исполняемом модуле юниты забыты.
Разделение на юниты нужно только для удобства написания, чтения и отладки кода.

0

As17, за АМДу не чего не скажу. я от него отказался лет 20 назад.

Сообщение от As17 Если поток вынести в отдельный unit это поможет потокам считать математику без тормозов?

Возможно. всетаки разный namespace. Возможно гуру подскажут.

Монитор пошустрее найди. 1сек ох... долго. в идеале 50-100 мсек на тик.

сколько байт разрядность? похоже перегрузка регистров кучу времени занимает.
Работал с Velthuis.BigDecimals. Завтра посмотрю... по настроению.

0

Сообщение от stalkernet Возможно. всетаки разный namespace.

Бред. В исполняемом модуле никаких имён нет.

0

Сообщение от As17 Если поток вынести в отдельный unit это поможет потокам считать математику без тормозов?

Сообщение от stalkernet Возможно. всетаки разный namespace.

ОМГ

Сообщение от stalkernet Монитор пошустрее найди. 1сек ох... долго. в идеале 50-100 мсек на тик.

Точно! Монитор заменить надо.

Добавлено через 2 минуты

Сообщение от As17 Запустил только математику без чтения массива в обоих потоках - тормоза остались.

Сообщение от As17 А вот математика реализована через стороннюю библиотеку (Velthuis.BigIntegers.pas)

Видимо в библиотеке и проблема
Правда не понимаю какая.
Как чисто теоретическое предположение: она особо буйно работает со строками (если внутри строковое представление "длинный математики") и всё упирается в менеджер памяти. Но гипотеза средненькой такой надёжности.

0

вообще работа со строками это довольно страшный вызов
если идет постоянная перезапись строк, то это дичайший оверхед по работе менеджера памяти
любая библиотека, где строки используются активно, должна первым делом оптимизировать именно этот момент

1

Сообщение от stalkernet всетаки разный namespace

Каюсь. ковырял ся(С). перемкнуло......

И таки да... проблема в либе. два потока на простом с := a + b идут последовательно....

KSergey9, krapotkin, нету там строк. чистая численная математика.

0

насколько я понял, сейчас мы здесь:
-расчеты медленные
-чтение из массива ни на что не влияет

а что за числа там такие, что прямо не хватает 64-бит integer и приходится в стороннюю математику ?

0

одна и две копии программы без потоков.
мониторинг

1x


2x


бвло чтото на тему оптимизации asma. может тут?
по ходу приятного мало. расчитывал на потоки.

0

krapotkin,

ну человек свой БИТКОИНТ делает..........

0

но с расчетами-то потоки точно должны помогать

0

Сообщение от stalkernet мониторинг

и что, не умещается в int64 ??
Отмасштабировать точно нельзя вот эти бестолковые нолики?

0