Потоки для оптимизация сериализации нескольких данных

@Passerby · Регистрация: 22.09.2017

Студворк — интернет-сервис помощи студентам

4-х ядерный проц i5 7500. Программа собирает данные от 5 источников по сети и регулярно сбрасывает их на диск. С учетом того, что записывается время опроса данных получается 5 словарей, в каждом словаре разные данные по своему источнику в сети + один List<DateTime>. Как лучше сериализовать эти данные? Вариант 1. На каждый словарь и на лист сделать отдельный поток. и дожидаться окончания всех потоков Но т.к. потоков должно быть 6 (5+1) не будет ли в этом случае переключения потоков с одной незаконченной задачи на другую и на это будет теряться время. Или лучше сделать 4-е потока, подождать их окончания, т.е. записи на диск, а затем сделать еще два потока? Во время сериализации и записи на диск желательно, чтобы как на можно меньшее время прерывался сбор данных с источников в сети. Архивация в gzip приводит к большей потере времени на запись. Сейчас без потоков запись идет примерно 5 сек.

Добавлено через 13 минут
Объем данных от разных источников разный и заранее известно, где объем большой, а где нет.

@freeba · 26.04.2019, 06:05

База данных в помощь.

@Элд Хасп · 26.04.2019, 12:16

Сообщение от Passerby

Как лучше сериализовать эти данные?

От количества потоков скорость сериализации не вырастет. Сериализация - это ПОСЛЕДОВАТЕЛЬНАЯ запись объекта в файл. По своей сути работа с диском - это тоже последовательный механизм. Поэтому последовательная запись 6 файлов, всегда будет как минимум не медленнее записи каждого из этих файлов в отдельном потоке. А на практике для HDD, обычно, многократно быстрее.

Если Вам надо освобождать потоки для обработки следующей порции данных. То разделите обработку данных и их сохранение. Обрабатываются пусть в параллельных потоках, а сохраняются в последовательных.

@Passerby · 26.04.2019, 19:02 **[ТС]**

Сообщение от freeba

База данных в помощь.

Сохранение в базе данных с записью на диск будет быстрее сериализации? За счет чего?

Сообщение от Элд Хасп

От количества потоков скорость сериализации не вырастет. Сериализация - это ПОСЛЕДОВАТЕЛЬНАЯ запись объекта в файл. По своей сути работа с диском - это тоже последовательный механизм. Поэтому последовательная запись 6 файлов, всегда будет как минимум не медленнее записи каждого из этих файлов в отдельном потоке. А на практике для HDD, обычно, многократно быстрее.

Я сомневался насчет потоков, т.к. перед записью сериализованного потока на диск должно происходить преобразование объектов в бинарную последовательность символов. Но практика, конечно, критерий истины. Похоже это преобразование много быстрее самой записи.

@Diamante · 27.04.2019, 00:10

может стоит копнуть в сторону необходимого кол-ва слушателей, которые, по мере получения данных, передают их "писателю", который или копит данные и потом скопом пишет(диск, сеть, бд, файл, перфокарты, манускрипты) или пишет сразу?

Новые блоги и статьи Все статьи Все блоги /
SDL3 для Web (WebAssembly): Реализация движения на Box2D v3 - трение и коллизии с повёрнутыми стенами 8Observer8 20.02.2026 Содержание блога Box2D позволяет легко создать главного героя, который не проходит сквозь стены и перемещается с заданным трением о препятствия, которые можно располагать под углом, как верхнее. . .	Конвертировать закладки radiotray-ng в m3u-плейлист damix 19.02.2026 Это можно сделать скриптом для PowerShell. Использование . \СonvertRadiotrayToM3U. ps1 <path_to_bookmarks. json> Рядом с файлом bookmarks. json появится файл bookmarks. m3u с результатом. # Check if. . .	Семь CDC на одном интерфейсе: 5 U[S]ARTов, 1 CAN и 1 SSI Eddy_Em 18.02.2026 Постепенно допиливаю свою "многоинтерфейсную плату". Выглядит вот так: https:/ / www. cyberforum. ru/ blog_attachment. php?attachmentid=11617&stc=1&d=1771445347 Основана на STM32F303RBT6. На борту пять. . .	Камера Toupcam IUA500KMA Eddy_Em 12.02.2026 Т. к. у всяких "хикроботов" слишком уж мелкий пиксель, для подсмотра в ESPriF они вообще плохо годятся: уже 14 величину можно рассмотреть еле-еле лишь на экспозициях под 3 секунды (а то и больше),. . .
И ясному Солнцу zbw 12.02.2026 И ясному Солнцу, и светлой Луне. В мире покоя нет и люди не могут жить в тишине. А жить им немного лет.	«Знание-Сила» zbw 12.02.2026 «Знание-Сила» «Время-Деньги» «Деньги -Пуля»	SDL3 для Web (WebAssembly): Подключение Box2D v3, физика и отрисовка коллайдеров 8Observer8 12.02.2026 Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами и вызывать обработчики событий столкновения. . . .	SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL_LoadPNG (без SDL3_image) 8Observer8 11.02.2026 Содержание блога Библиотека SDL3 содержит встроенные инструменты для базовой работы с изображениями - без использования библиотеки SDL3_image. Пошагово создадим проект для загрузки изображения. . .

@Passerby -7 / 3 / 1 Регистрация: 22.09.2017 Сообщений: 242

	Потоки для оптимизация сериализации нескольких данных 25.04.2019, 23:57. Показов 1162. Ответов 4 Метки нет (Все метки) 4-х ядерный проц i5 7500. Программа собирает данные от 5 источников по сети и регулярно сбрасывает их на диск. С учетом того, что записывается время опроса данных получается 5 словарей, в каждом словаре разные данные по своему источнику в сети + один List<DateTime>. Как лучше сериализовать эти данные? Вариант 1. На каждый словарь и на лист сделать отдельный поток. и дожидаться окончания всех потоков Но т.к. потоков должно быть 6 (5+1) не будет ли в этом случае переключения потоков с одной незаконченной задачи на другую и на это будет теряться время. Или лучше сделать 4-е потока, подождать их окончания, т.е. записи на диск, а затем сделать еще два потока? Во время сериализации и записи на диск желательно, чтобы как на можно меньшее время прерывался сбор данных с источников в сети. Архивация в gzip приводит к большей потере времени на запись. Сейчас без потоков запись идет примерно 5 сек. Добавлено через 13 минут Объем данных от разных источников разный и заранее известно, где объем большой, а где нет. 0

@freeba Неадекват 1501 / 1237 / 248 Регистрация: 02.04.2010 Сообщений: 2,807
	26.04.2019, 06:05
	База данных в помощь. 1

@Diamante 3566 / 2507 / 1174 Регистрация: 14.08.2016 Сообщений: 8,219
	27.04.2019, 00:10
	может стоит копнуть в сторону необходимого кол-ва слушателей, которые, по мере получения данных, передают их "писателю", который или копит данные и потом скопом пишет(диск, сеть, бд, файл, перфокарты, манускрипты) или пишет сразу? 1