Советы по оптимизации роботы с большими массивами.

@aland · Регистрация: 26.06.2008

Студворк — интернет-сервис помощи студентам

Интересуют методы оптимизации работы с большими массивами
Обрабатываются большие (несколько мегабайт) текстовые файлы.
Они считываются в память (целиком),
затем разбиваются на 2-мерный массив типа variant (например:
arr(75000, 7)), который потом обрабатывается.
Интересует следующее:
- что лучше: один 2-мерный длинющий массив variant
или 8 одномерных длинющих, но разбитых уже по нужным типам данных
(data, long, string)
- что быстрее сработает:
Pr1BeginTime As Date, Pr1EndTime As Date
это
CDbl(DateDiff('s', Pr1BeginTime, Pr1EndTime)/60)
или это
CDbl((Pr1EndTime - Pr1BeginTime) * 24 * 60)

- и вообще, дайте какие-нибудь рекомендации по оптимизации скорости обработки больших массивов данных

спасибо.

@DjinnWalker · 14.06.2011, 15:14

Открывай файл для бинарного доступа, так отрабатывает гораздо быстрее, чем как текст.
Open FileName For Binary Access Read
И потом в цикле обрабатывай. Или необходимо создавать массивы?
Еще лучше заюзать MSXML DOM если файлы XML.

14.06.2011, 23:40

Не точно в тему:
Если задача достаточно серьёзна, то: оформи работу с огромными текстовыми файлами в виде DLL, написанной или на Сях, или крайняк на PowerBasic (синтаксис очень похож на VB, изучить в деталях можно за неделю). Гораздо быстрее VB6 будет!!!

@Akula-II · 15.06.2011, 00:38

Как Вы думаете, если вместа массивов, работать с записями в Binary файлах, будет быстрее??

15.06.2011, 02:45

Мы думаем, что если работать в MMF, то будет быстрее и удобнее, чем с файлами. И не критично к памяти, в отличие от массивов...

Новые блоги и статьи Все статьи Все блоги /
Валидация и контроль данных табличной части документа перед записью Maks 22.04.2026 Алгоритм из решения ниже реализован на примере нетипового документа, разработанного в КА2. Задача: контроль и валидация данных табличной части документа перед записью с учетом регламента компании. . .	Отчёт о затраченных материалах за определенный период с макетом печатной формы Maks 21.04.2026 Отчёт из решения ниже размещён в конфигурации КА2. Задача: разработка отчёта по затраченным материалам за определённый период, с возможностью вывода печатной формы отчёта с шапкой и подвалом. В. . .	Отчёт о спецтехнике находящейся в ремонте Maks 20.04.2026 Отчёт из решения ниже размещен в конфигурации КА2. Задача: отобразить спецтехнику, которая на данный момент находится в ремонте. Есть нетиповой документ "Заявка на ремонт спецтехники" который. . .	Памятка для бота и "визитка" для читателей "Semantic Universe Layer (Слой семантической вселенной)" Hrethgir 19.04.2026 Сгенерировано для краткого описания по случаю сборки и компиляции скелета серверного приложения. И пусть после этого скажут, что статьи сгенерированные AI - туфта и не интересно. И это не реклама -. . .
Запрет удаления строк ТЧ документа при определённом условии Maks 19.04.2026 Алгоритм из решения ниже реализован на примере нетипового документа "Аккумуляторы", разработанного в конфигурации КА2. У данного документа есть ТЧ, в которой в зависимости от прав доступа. . .	Модель заражения группы наркоманов alhaos 17.04.2026 Условия задачи сформулированы тут Суть: - Группа наркоманов из 10 человек. - Только один инфицирован ВИЧ. - Колются одной иглой. - Колются раз в день. - Колются последовательно через. . .	Мысли в слух. Про "навсегда". kumehtar 16.04.2026 Подумалось тут, что наверное очень глупо использовать во всяких своих установках понятие "навсегда". Это очень сильное понятие, и я только начинаю понимать край его смысла, не смотря на то что давно. . .	My Business CRM MaGz GoLd 16.04.2026 Всем привет, недавно возникла потребность создать CRM, для личных нужд. Собственно программа предоставляет из себя базу данных клиентов, в которой можно фиксировать звонки, стадии сделки, а также. . .

@aland 0 / 0 / 0 Регистрация: 26.06.2008 Сообщений: 16

	Советы по оптимизации роботы с большими массивами. 08.06.2011, 14:49. Показов 1181. Ответов 4 Метки нет (Все метки) Интересуют методы оптимизации работы с большими массивами Обрабатываются большие (несколько мегабайт) текстовые файлы. Они считываются в память (целиком), затем разбиваются на 2-мерный массив типа variant (например: arr(75000, 7)), который потом обрабатывается. Интересует следующее: - что лучше: один 2-мерный длинющий массив variant или 8 одномерных длинющих, но разбитых уже по нужным типам данных (data, long, string) - что быстрее сработает: Pr1BeginTime As Date, Pr1EndTime As Date это CDbl(DateDiff('s', Pr1BeginTime, Pr1EndTime)/60) или это CDbl((Pr1EndTime - Pr1BeginTime) * 24 * 60) - и вообще, дайте какие-нибудь рекомендации по оптимизации скорости обработки больших массивов данных спасибо. 0

@DjinnWalker 1 / 1 / 0 Регистрация: 25.05.2008 Сообщений: 232
	14.06.2011, 15:14
	Открывай файл для бинарного доступа, так отрабатывает гораздо быстрее, чем как текст. Open FileName For Binary Access Read И потом в цикле обрабатывай. Или необходимо создавать массивы? Еще лучше заюзать MSXML DOM если файлы XML. 0

Comanche
	14.06.2011, 23:40
	Не точно в тему: Если задача достаточно серьёзна, то: оформи работу с огромными текстовыми файлами в виде DLL, написанной или на Сях, или крайняк на PowerBasic (синтаксис очень похож на VB, изучить в деталях можно за неделю). Гораздо быстрее VB6 будет!!!

@Akula-II 3 / 3 / 0 Регистрация: 02.01.2011 Сообщений: 149
	15.06.2011, 00:38
	Как Вы думаете, если вместа массивов, работать с записями в Binary файлах, будет быстрее?? 0

Messir
	15.06.2011, 02:45
	Мы думаем, что если работать в MMF, то будет быстрее и удобнее, чем с файлами. И не критично к памяти, в отличие от массивов...

Опции темы