Нужен быстрый многомерный почти пустой массив неизвестного размера

@wingblack · Регистрация: 09.04.2013

Студворк — интернет-сервис помощи студентам

Решаю тут одну задачку где генерируются данные (точки) с многомерными координатами.
Координаты целочисленные.
У части координат заранее не известны ограничения, т.е. если точка задается координатами (А,В,С), то С допустим может быть из отрезка [0, 10], но А и В могут быть [-100 000, 100 000] или даже больше.
Скажем, известно что А и В все таки ограничены, но заранее нельзя сказать как именно.
Известно, что внутри "прямоугольника", задающего ограничения на координаты, "значимых" точек гораздо меньше чем "пустых".

Требуется - очень быстро записывать в такой "массив", и очень быстро брать значение точки по заданным координатам (или узнать что это точка "пустая" если там данных нет)

Количество записей в таком массиве может быть сильно больше миллиона, а в зависимости от настроек может превысить 10⁹ штук.
В каждой точке требуется хранить примерно 30 байт данных.
Операции чтения/записи по произвольным координатам производятся постоянно (впрочем, известно что небольшие последовательности запросов находятся в одной области)

@ТабуретY · 27.06.2018, 14:19

Под такие условия c++ sparse matrix

@Garry Galler · 27.06.2018, 14:24

Ну если sparse, то https://docs.scipy.org/doc/sci... parse.html
В основе лежит массивы библиотеки numpy.

@wingblack · 27.06.2018, 15:01 **[ТС]**

Хм, мне кажется что sparse matrix в Scipy не умеет в динамический размер.
Не, я конечно могу взять потолок с запасом и конвертировать отрицательные координаты, но такой подход немного смущает.

Добавлено через 6 минут
И еще, это 2D матрицы, а не многомерные массивы, мне тогда что, получается нужно - вложенные sparse матрицы городить ?

@Garry Galler · 27.06.2018, 15:10

Сообщение от wingblack

И еще, это 2D матрицы, а не многомерные массивы

Это прежде всего numpy.array. А как это называется - дело десятое. И не путайте python с С++ - здесь все динамическое и все высокоуровневая абстракция.

@dondublon · 27.06.2018, 16:32

Сообщение от wingblack

Требуется - очень быстро записывать в такой "массив", и очень быстро брать значение точки по заданным координатам (или узнать что это точка "пустая" если там данных нет)

Если это всё, что требуется - создайте словарь, в котором ключами будут кортежи из ваших кординат:

Code
1
{(x1, y1): z1, (x2, y2):z2, ...}

Будет быстро.
Scipy sparse matrices дадут вам несколько больше возможностей. Упрётесь ли вы в потолок - вопрос. Попробуйте на практике, это лучший способ.

Сообщение от wingblack

а в зависимости от настроек может превысить 10^9 штук.

То есть миллиард. В каждой точке 30 байт, получается 30 гигов чистых данных. Не на каждом компе такой массив создать получится. На таких объёмах уже спецсредства нужны.

Новые блоги и статьи Все статьи Все блоги /
http://iceja.net/ математические сервисы iceja 20.01.2026 Обновила свой сайт http:/ / iceja. net/ , приделала Fast Fourier Transform экстраполяцию сигналов. Однако предсказывает далеко не каждый сигнал (см ограничения http:/ / iceja. net/ fourier/ docs ). Также. . .	http://iceja.net/ сервер решения полиномов iceja 18.01.2026 Выкатила http:/ / iceja. net/ сервер решения полиномов (находит действительные корни полиномов методом Штурма). На сайте документация по API, но скажу прямо VPS слабенький и 200 000 полиномов. . .	Расчёт переходных процессов в цепи постоянного тока igorrr37 16.01.2026 / * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит переходные токи и напряжения на элементах схемы. . . .	Восстановить юзерскрипты Greasemonkey из бэкапа браузера damix 15.01.2026 Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .
Сукцессия микоризы: основная теория в виде двух уравнений. anaschu 11.01.2026 https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/	WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .	Почему дизайн решает? Neotwalker 09.01.2026 В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .

@wingblack 294 / 265 / 48 Регистрация: 09.04.2013 Сообщений: 1,038

	Нужен быстрый многомерный почти пустой массив неизвестного размера 27.06.2018, 13:59. Показов 2571. Ответов 5 Метки нет (Все метки) Решаю тут одну задачку где генерируются данные (точки) с многомерными координатами. Координаты целочисленные. У части координат заранее не известны ограничения, т.е. если точка задается координатами (А,В,С), то С допустим может быть из отрезка [0, 10], но А и В могут быть [-100 000, 100 000] или даже больше. Скажем, известно что А и В все таки ограничены, но заранее нельзя сказать как именно. Известно, что внутри "прямоугольника", задающего ограничения на координаты, "значимых" точек гораздо меньше чем "пустых". Требуется - очень быстро записывать в такой "массив", и очень быстро брать значение точки по заданным координатам (или узнать что это точка "пустая" если там данных нет) Количество записей в таком массиве может быть сильно больше миллиона, а в зависимости от настроек может превысить 10⁹ штук. В каждой точке требуется хранить примерно 30 байт данных. Операции чтения/записи по произвольным координатам производятся постоянно (впрочем, известно что небольшие последовательности запросов находятся в одной области) 0

@ТабуретY 1741 / 913 / 480 Регистрация: 05.12.2013 Сообщений: 3,074
	27.06.2018, 14:19
	Под такие условия c++ sparse matrix 0

@Garry Galler 5438 / 3859 / 1215 Регистрация: 28.10.2013 Сообщений: 9,552 Записей в блоге: 1
	27.06.2018, 14:24
	Ну если sparse, то https://docs.scipy.org/doc/sci... parse.html В основе лежит массивы библиотеки numpy. 0

@wingblack 294 / 265 / 48 Регистрация: 09.04.2013 Сообщений: 1,038
	27.06.2018, 15:01 [ТС]
	Хм, мне кажется что sparse matrix в Scipy не умеет в динамический размер. Не, я конечно могу взять потолок с запасом и конвертировать отрицательные координаты, но такой подход немного смущает. Добавлено через 6 минут И еще, это 2D матрицы, а не многомерные массивы, мне тогда что, получается нужно - вложенные sparse матрицы городить ? 0