Форум программистов, компьютерный форум, киберфорум
PHP: базы данных
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 5.00/5: Рейтинг темы: голосов - 5, средняя оценка - 5.00
0 / 0 / 0
Регистрация: 31.08.2018
Сообщений: 1
MongoDB

Чтение данных из коллекции в 30 млн записей

31.08.2018, 16:21. Показов 1018. Ответов 1
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Приветствую уважаемые !
Имеется проблема чтения данных из коллекции.
Размер коллекции 30 млн записей. Коллекция постоянно пополняется примерно на 50-100 записей в секунду. Индексация не помогает. При запросе данных по фильтру сервер подвисает примерно минут на 5.

Запрос:
PHP
1
2
3
4
5
6
7
8
9
10
11
12
13
  $imei  = "352094088867939";
  $date = "270818";
 
     $connection = new Mongo();
     $db = $connection->tracker_repository;
     $collection = $db->t0818;
 
      $criteria = array(
          'tracker' => $imei,
          'date' => $date,
    );
 
    $cursor = $collection->find($criteria);
Подскажите, кто сталкивался с такой ситуацией.

Железо:

Xeon 2CPU x 2.4 Ghz
RAM: 16 Gb
HDD: 2TB
OS: CentOS
0
IT_Exp
Эксперт
34794 / 4073 / 2104
Регистрация: 17.06.2006
Сообщений: 32,602
Блог
31.08.2018, 16:21
Ответы с готовыми решениями:

Работа с большой базой (>1 млн записей)
Товарищи, помогите! Я недавно перешел на C# 2005, меня особенно интересует вопрос работы с большими базами (более 1 млн. записей) В...

Сохранить результаты запроса (несколько млн. записей в csv)
Коллеги, здравствуйте! Подскажите ответ на данный вопрос. Мне нужно извлечь записи, количество несколько млн. Каким образом мне...

Оптимизация запроса без Join в таблице с 4 млн записей
Добрый день, друзья. Прошу помощи в оптимизации следующего запроса. Упростил как мог, оставив только главные критерии. SELECT...

1
 Аватар для tarasalk
1992 / 1216 / 440
Регистрация: 13.06.2013
Сообщений: 4,115
31.08.2018, 19:38
По highload читали что-нибудь? Шардирование. Отдельные БД для чтения/записи. Кубы.
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
BasicMan
Эксперт
29316 / 5623 / 2384
Регистрация: 17.02.2009
Сообщений: 30,364
Блог
31.08.2018, 19:38
Помогаю со студенческими работами здесь

Чтение данных из StringGrid в массив записей
Ввод данных не работает. Почему? (Далее приведен конкретно кусок, где не работает) procedure TForm4.Button1Click(Sender:...

Оптимизация запросов. 3,5+ млн записей в базе. Надо посчитать записи.
И так, сабж. Есть таблица с более чем 3-мя миллионами записей. Выборка делается по примерно 6-ти полям, многие из которых выбираются...

Создание скрипта, который запишет в таблицу 10 млн записей с Guid
Помогите создать на SQL такой скрипт, который запишет в таблицу 10 млн записей с Guid.

Посоветуйте как лучше реализовать обработку порядка 100 млн. записей
Основная суть вопроса в самой теме. Исходные данные в СSV файлах с количеством записей от 5 000 до 1 000 000 в каждом. Изначально нужно...

В Англії проживає 50 млн. чоловік, у Франції 70 млн. чоловік, у Німеччині - 44 млн. чоловік,
В Англії проживає 50 млн. чоловік, у Франції 70 млн. чоловік, у Німеччині - 44 млн. чоловік, у Данії - 4 млн. чоловік, у Канаді - 73 млн....


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
2
Ответ Создать тему
Новые блоги и статьи
Воспроизведение звукового файла с помощью SDL3_mixer при касании экрана Android
8Observer8 26.01.2026
Содержание блога SDL3_mixer - это библиотека я для воспроизведения аудио. В отличие от инструкции по добавлению текста код по проигрыванию звука уже содержится в шаблоне примера. Нужно только. . .
Установка Android SDK, NDK, JDK, CMake и т.д.
8Observer8 25.01.2026
Содержание блога Перейдите по ссылке: https:/ / developer. android. com/ studio и в самом низу страницы кликните по архиву "commandlinetools-win-xxxxxx_latest. zip" Извлеките архив и вы увидите. . .
Вывод текста со шрифтом TTF на Android с помощью библиотеки SDL3_ttf
8Observer8 25.01.2026
Содержание блога Если у вас не установлены Android SDK, NDK, JDK, и т. д. то сделайте это по следующей инструкции: Установка Android SDK, NDK, JDK, CMake и т. д. Сборка примера Скачайте. . .
Использование SDL3-callbacks вместо функции main() на Android, Desktop и WebAssembly
8Observer8 24.01.2026
Содержание блога Если вы откроете примеры для начинающих на официальном репозитории SDL3 в папке: examples, то вы увидите, что все примеры используют следующие четыре обязательные функции, а. . .
моя боль
iceja 24.01.2026
Выложила интерполяцию кубическими сплайнами www. iceja. net REST сервисы временно не работают, только через Web. Написала за 56 рабочих часов этот сайт с нуля. При помощи perplexity. ai PRO , при. . .
Модель сукцессии микоризы
anaschu 24.01.2026
Решили писать научную статью с неким РОманом
http://iceja.net/ математические сервисы
iceja 20.01.2026
Обновила свой сайт http:/ / iceja. net/ , приделала Fast Fourier Transform экстраполяцию сигналов. Однако предсказывает далеко не каждый сигнал (см ограничения http:/ / iceja. net/ fourier/ docs ). Также. . .
http://iceja.net/ сервер решения полиномов
iceja 18.01.2026
Выкатила http:/ / iceja. net/ сервер решения полиномов (находит действительные корни полиномов методом Штурма). На сайте документация по API, но скажу прямо VPS слабенький и 200 000 полиномов. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru