Форум программистов, компьютерный форум, киберфорум
PHP: базы данных
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.55/11: Рейтинг темы: голосов - 11, средняя оценка - 4.55
 Аватар для Toha_
0 / 0 / 0
Регистрация: 06.07.2016
Сообщений: 115

Обработка большого объема данных

09.01.2017, 23:59. Показов 2355. Ответов 3
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Добрый ночи ребята помогите с одной проблемой.

У на старом сайте одного проекта есть база в которой находятся больше 5 000 записей (+ фотографии к нему):

Пример того как я построил логику импортирования данных из старого сайта на новых через API, на старом написал просто условие по которому получаю все записи.

PHP
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
$old_project = //Собраны все данные
 
 
$max_count = $old_project['other']['max_count'];
 
//получаем старичную навигацию
$count = floor($max_count / 100);
 
for ($i = 1; $i <= $count; $i++)
{
    echo '<b>'.$i.'</b><br />';
  
    //Получаю все записи и собираю в массив
    $news = 'ссылка.ру?page='.$i;  
 
 
     foreach ($news as $key => $value)
     {
        //Тут просто наносился в новую базу
        mysql_query("INSERT ....")
 
         //Тут идет загрузка файлов и все
         if($key == 'images') {}
      }
 
}

Хочу у вас спросить правильно ли делаю, просто эти записи у меня работают но занимают колоссальное время если делаю на локальном хосте. (2-3 часа).


Если неправильно можете подсказать альтернативный вариант.
0
IT_Exp
Эксперт
34794 / 4073 / 2104
Регистрация: 17.06.2006
Сообщений: 32,602
Блог
09.01.2017, 23:59
Ответы с готовыми решениями:

Выгрузка из БД большого объема информации
Всем привет. По сути дела сейчас делаю некий журнал активности для личного кабинета ... Столкнулся с 2 вопросами: 1. Он...

Постраничное разбиение большого объема текста PHP+MYSQL
Доброго времени суток. В БД хранится множество статей разного объема. При просмотре любая статья выводится на одной странице, что...

Обработка большого объема без нагрузки
Добрый ночи ребята помогите с одной проблемой. У на старом сайте одного проекта есть база в которой находятся больше 5 000 записей (+...

3
 Аватар для gbsoftware
120 / 116 / 77
Регистрация: 19.08.2013
Сообщений: 430
10.01.2017, 12:22
Структура базы одинаковая? Сделать дамп базы не вариант?
0
 Аватар для Зверушь
461 / 369 / 94
Регистрация: 01.05.2010
Сообщений: 1,761
10.01.2017, 13:00
Ну и сразу собирать все данные с таблицы в одну переменную тоже не правильно, ибо памяти жрется немеряно.
Лучше обрабатывать пакетами по 100 - 500 записей.

И еще, INSERT может делать вставку сразу нескольких строк. Почитайте о синтаксисе такого использования (сам не помню а в мануал лезть лень).

То есть алгоритм примерно такой:
Code
1
2
3
4
5
Цикл пока не достигнут конец таблицы
    Берем следующие 100 записей из исходной таблицы.
    Преобразовываем данные и формируем запрос на вставку.
    Вставляем 100 записей в новую таблицу/бд
Конец цикла.
Как пройтись от начала и до конца таблицы показывать нужно?
0
 Аватар для Toha_
0 / 0 / 0
Регистрация: 06.07.2016
Сообщений: 115
10.01.2017, 16:00  [ТС]
Зверушь, Я смотрю вы любите с 1С работать :-D

Добавлено через 29 секунд
gbsoftware, У меня доступа нет, был только api.

Добавлено через 2 минуты
Зверушь, Если вам не сложно можете примерно написать как мне сделать чтобы правильно импортировались записи.

Да я знаю что там виснет просто капец.

1). Я этот файл буду открывать через AJAX, но все же это неправильно, нагружать открываемый файл.
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
BasicMan
Эксперт
29316 / 5623 / 2384
Регистрация: 17.02.2009
Сообщений: 30,364
Блог
10.01.2017, 16:00
Помогаю со студенческими работами здесь

обработка большого файла excel
здравствуйте мне нужно парсить excel файл. в нём около 160 000 строк. делаю с помощью PHPExcel на локальном хостинге работает...

Вывод большего объема данных
Структура таблицы примерно следующая: tabl_1 содержит id категории, и еще разные данные tabl_2 строки, входящие в эти категории (для...

Удаление большого количества данных не работает
Написал скрипт на удаление данных, 1 миллион строк должно удалить (в таблице 1,5 миллиона записей) При первом запуске таблица набирает...

Обработка большого объема данных (теги сайта)
Есть сайт, у него таблица tags 207,168 штук MyISAM utf8_general_ci 16 МБ весом =) нужно их обработать Под...

Проверка большого объема данных
Мне надо проверить паспортные данные на правильность, что то на подобии что первые 4 цифры, это серия и именно цифры, и номер именно 6...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
4
Ответ Создать тему
Новые блоги и статьи
PhpStorm 2025.3: WSL Terminal всегда стартует в ~
and_y87 14.12.2025
PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .
Как объединить две одинаковые БД Access с разными данными
VikBal 11.12.2025
Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
Новый ноутбук
volvo 07.12.2025
Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro
Музыка, написанная Искусственным Интеллектом
volvo 04.12.2025
Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .
От async/await к виртуальным потокам в Python
IndentationError 23.11.2025
Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов
Argus19 22.11.2025
Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .
Сколько Государство потратило денег на меня, обеспечивая инсулином.
Programma_Boinc 20.11.2025
Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .
Ломающие изменения в C#.NStar Alpha
Etyuhibosecyu 20.11.2025
Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .
Мысли в слух
kumehtar 18.11.2025
Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .
Создание Single Page Application на фреймах
krapotkin 16.11.2025
Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2025, CyberForum.ru