Обработка большого объема данных

@Toha_ · Регистрация: 06.07.2016

Студворк — интернет-сервис помощи студентам

Добрый ночи ребята помогите с одной проблемой.

У на старом сайте одного проекта есть база в которой находятся больше 5 000 записей (+ фотографии к нему):

Пример того как я построил логику импортирования данных из старого сайта на новых через API, на старом написал просто условие по которому получаю все записи.

PHP
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
$old_project = //Собраны все данные
 
 
$max_count = $old_project['other']['max_count'];
 
//получаем старичную навигацию
$count = floor($max_count / 100);
 
for ($i = 1; $i <= $count; $i++)
{
    echo '<b>'.$i.'</b><br />';
  
    //Получаю все записи и собираю в массив
    $news = 'ссылка.ру?page='.$i;  
 
 
     foreach ($news as $key => $value)
     {
        //Тут просто наносился в новую базу
        mysql_query("INSERT ....")
 
         //Тут идет загрузка файлов и все
         if($key == 'images') {}
      }
 
}

Хочу у вас спросить правильно ли делаю, просто эти записи у меня работают но занимают колоссальное время если делаю на локальном хосте. (2-3 часа).

Если неправильно можете подсказать альтернативный вариант.

@gbsoftware · 10.01.2017, 12:22

Структура базы одинаковая? Сделать дамп базы не вариант?

@Зверушь · 10.01.2017, 13:00

Ну и сразу собирать все данные с таблицы в одну переменную тоже не правильно, ибо памяти жрется немеряно.
Лучше обрабатывать пакетами по 100 - 500 записей.

И еще, INSERT может делать вставку сразу нескольких строк. Почитайте о синтаксисе такого использования (сам не помню а в мануал лезть лень).

То есть алгоритм примерно такой:

Code
1
2
3
4
5
Цикл пока не достигнут конец таблицы
    Берем следующие 100 записей из исходной таблицы.
    Преобразовываем данные и формируем запрос на вставку.
    Вставляем 100 записей в новую таблицу/бд
Конец цикла.

Как пройтись от начала и до конца таблицы показывать нужно?

@Toha_ · 10.01.2017, 16:00 **[ТС]**

Зверушь, Я смотрю вы любите с 1С работать :-D

Добавлено через 29 секунд
gbsoftware, У меня доступа нет, был только api.

Добавлено через 2 минуты
Зверушь, Если вам не сложно можете примерно написать как мне сделать чтобы правильно импортировались записи.

Да я знаю что там виснет просто капец.

1). Я этот файл буду открывать через AJAX, но все же это неправильно, нагружать открываемый файл.

Новые блоги и статьи Все статьи Все блоги /
SDL3 для Web (WebAssembly): Обработчик клика мыши в браузере ПК и касания экрана в браузере на мобильном устройстве 8Observer8 02.02.2026 Содержание блога Для начала пошагово создадим рабочий пример для подготовки к экспериментам в браузере ПК и в браузере мобильного устройства. Потом напишем обработчик клика мыши и обработчик. . .	Философия технологии iceja 01.02.2026 На мой взгляд у человека в технических проектах остается роль генерального директора. Все остальное нейронки делают уже лучше человека. Они не могут нести предпринимательские риски, не могут. . .	SDL3 для Web (WebAssembly): Вывод текста со шрифтом TTF с помощью SDL3_ttf 8Observer8 01.02.2026 Содержание блога В этой пошаговой инструкции создадим с нуля веб-приложение, которое выводит текст в окне браузера. Запустим на Android на локальном сервере. Загрузим Release на бесплатный. . .	SDL3 для Web (WebAssembly): Сборка C/C++ проекта из консоли 8Observer8 30.01.2026 Содержание блога Если вы откроете примеры для начинающих на официальном репозитории SDL3 в папке: examples, то вы увидите, что все примеры используют следующие четыре обязательные функции, а. . .
SDL3 для Web (WebAssembly): Установка Emscripten SDK (emsdk) и CMake для сборки C и C++ приложений в Wasm 8Observer8 30.01.2026 Содержание блога Для того чтобы скачать Emscripten SDK (emsdk) необходимо сначало скачать и уставить Git: Install for Windows. Следуйте стандартной процедуре установки Git через установщик. . . .	SDL3 для Android: Подключение Box2D v3, физика и отрисовка коллайдеров 8Observer8 29.01.2026 Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами. Версия v3 была полностью переписана на Си, в. . .	Инструменты COM: Сохранение данный из VARIANT в файл и загрузка из файла в VARIANT bedvit 28.01.2026 Сохранение базовых типов COM и массивов (одномерных или двухмерных) любой вложенности (деревья) в файл, с возможностью выбора алгоритмов сжатия и шифрования. Часть библиотеки BedvitCOM Использованы. . .	SDL3 для Android: Загрузка PNG с альфа-каналом с помощью SDL_LoadPNG (без SDL3_image) 8Observer8 28.01.2026 Содержание блога SDL3 имеет собственные средства для загрузки и отображения PNG-файлов с альфа-каналом и базовой работы с ними. В этой инструкции используется функция SDL_LoadPNG(), которая. . .

@gbsoftware 120 / 116 / 77 Регистрация: 19.08.2013 Сообщений: 430
	10.01.2017, 12:22
	Структура базы одинаковая? Сделать дамп базы не вариант? 0

@Toha_ 0 / 0 / 0 Регистрация: 06.07.2016 Сообщений: 115
	10.01.2017, 16:00 [ТС]
	Зверушь, Я смотрю вы любите с 1С работать :-D Добавлено через 29 секунд gbsoftware, У меня доступа нет, был только api. Добавлено через 2 минуты Зверушь, Если вам не сложно можете примерно написать как мне сделать чтобы правильно импортировались записи. Да я знаю что там виснет просто капец. 1). Я этот файл буду открывать через AJAX, но все же это неправильно, нагружать открываемый файл. 0