Советы по оптимизации роботы с большими массивами.

@aland · Регистрация: 26.06.2008

Студворк — интернет-сервис помощи студентам

Интересуют методы оптимизации работы с большими массивами
Обрабатываются большие (несколько мегабайт) текстовые файлы.
Они считываются в память (целиком),
затем разбиваются на 2-мерный массив типа variant (например:
arr(75000, 7)), который потом обрабатывается.
Интересует следующее:
- что лучше: один 2-мерный длинющий массив variant
или 8 одномерных длинющих, но разбитых уже по нужным типам данных
(data, long, string)
- что быстрее сработает:
Pr1BeginTime As Date, Pr1EndTime As Date
это
CDbl(DateDiff('s', Pr1BeginTime, Pr1EndTime)/60)
или это
CDbl((Pr1EndTime - Pr1BeginTime) * 24 * 60)

- и вообще, дайте какие-нибудь рекомендации по оптимизации скорости обработки больших массивов данных

спасибо.

@DjinnWalker · 14.06.2011, 15:14

Открывай файл для бинарного доступа, так отрабатывает гораздо быстрее, чем как текст.
Open FileName For Binary Access Read
И потом в цикле обрабатывай. Или необходимо создавать массивы?
Еще лучше заюзать MSXML DOM если файлы XML.

14.06.2011, 23:40

Не точно в тему:
Если задача достаточно серьёзна, то: оформи работу с огромными текстовыми файлами в виде DLL, написанной или на Сях, или крайняк на PowerBasic (синтаксис очень похож на VB, изучить в деталях можно за неделю). Гораздо быстрее VB6 будет!!!

@Akula-II · 15.06.2011, 00:38

Как Вы думаете, если вместа массивов, работать с записями в Binary файлах, будет быстрее??

15.06.2011, 02:45

Мы думаем, что если работать в MMF, то будет быстрее и удобнее, чем с файлами. И не критично к памяти, в отличие от массивов...

@aland 0 / 0 / 0 Регистрация: 26.06.2008 Сообщений: 16
		1
	Советы по оптимизации роботы с большими массивами. 08.06.2011, 14:49. Показов 969. Ответов 4 Метки нет (Все метки) Интересуют методы оптимизации работы с большими массивами Обрабатываются большие (несколько мегабайт) текстовые файлы. Они считываются в память (целиком), затем разбиваются на 2-мерный массив типа variant (например: arr(75000, 7)), который потом обрабатывается. Интересует следующее: - что лучше: один 2-мерный длинющий массив variant или 8 одномерных длинющих, но разбитых уже по нужным типам данных (data, long, string) - что быстрее сработает: Pr1BeginTime As Date, Pr1EndTime As Date это CDbl(DateDiff('s', Pr1BeginTime, Pr1EndTime)/60) или это CDbl((Pr1EndTime - Pr1BeginTime) * 24 * 60) - и вообще, дайте какие-нибудь рекомендации по оптимизации скорости обработки больших массивов данных спасибо. 0

@DjinnWalker 1 / 1 / 0 Регистрация: 25.05.2008 Сообщений: 232
	14.06.2011, 15:14	2
	Открывай файл для бинарного доступа, так отрабатывает гораздо быстрее, чем как текст. Open FileName For Binary Access Read И потом в цикле обрабатывай. Или необходимо создавать массивы? Еще лучше заюзать MSXML DOM если файлы XML. 0

Comanche
	14.06.2011, 23:40	3
	Не точно в тему: Если задача достаточно серьёзна, то: оформи работу с огромными текстовыми файлами в виде DLL, написанной или на Сях, или крайняк на PowerBasic (синтаксис очень похож на VB, изучить в деталях можно за неделю). Гораздо быстрее VB6 будет!!!

@Akula-II 0 / 0 / 0 Регистрация: 02.01.2011 Сообщений: 149
	15.06.2011, 00:38	4
	Как Вы думаете, если вместа массивов, работать с записями в Binary файлах, будет быстрее?? 0

Messir
	15.06.2011, 02:45	5
	Мы думаем, что если работать в MMF, то будет быстрее и удобнее, чем с файлами. И не критично к памяти, в отличие от массивов...

Опции темы