0 / 0 / 0
Регистрация: 10.08.2015
Сообщений: 62
1

Парсинг сайтов

26.08.2015, 17:20. Показов 828. Ответов 1
Метки нет (Все метки)

Author24 — интернет-сервис помощи студентам
Добрый день, такая ситуация:

делаю парсер нескольких сайтов. парсю с помощью simple_html_dom.php

при открытии сайта берем с нескольких сайтов несколько страниц, потом выбираю оттуда нужную мне инфу и просто загоняю в массив.

т.е. вся нужная мне инфа хранится в массивах
типа:
PHP
1
2
3
4
$info=array();
foreach ($content as $temp){
          push_array($info,$temp->>innertext);
}
потом просто вывожу это где-то на странице.

вопрос:
чую нутром что что-то делаю не так. Получается при каждом открытии сайта идет куча запросов на сайты доноры. И все долго обрабатывается.
Может как-то иначе нужно поступать? хранить в базе данных и переодически обновлять её ?

как вообще это делают грамотные люди ?
0
Programming
Эксперт
94731 / 64177 / 26122
Регистрация: 12.04.2006
Сообщений: 116,782
26.08.2015, 17:20
Ответы с готовыми решениями:

Парсинг сайтов с ограничениями
Добрый день, уважаемые программисты. Опыт работы с PHP низок, но дана задача, которую надо...

Парсинг сайтов
Подскажите пожалуйста как можно парсить сайты с помощью json, webclient и htmlagility. Прочитал...

Парсинг сайтов
Здравствуйте, подскажите хорошую библиотеку для парсинга сайтов и желатьльно ссылку на...

парсинг сайтов
Здравствуйте форумчане, у меня вопрос,к примеру есть сайт wday.ru, мне нужно спарсить все новости...

1
669 / 640 / 335
Регистрация: 26.04.2014
Сообщений: 2,122
27.08.2015, 07:28 2
Ну да. Можно для ускорения при первом запросе сохранить все данные у себя и при последующих запросах брать данные уже сохранённые. Потом через какое-то время опять заново сохранить...
0
27.08.2015, 07:28
IT_Exp
Эксперт
87844 / 49110 / 22898
Регистрация: 17.06.2006
Сообщений: 92,604
27.08.2015, 07:28
Помогаю со студенческими работами здесь

Парсинг динамических сайтов
Всем привет! Ищу способы получения HTML кода сайтов которые подгружают данные путем javascript-a....

Парсинг русских сайтов
Здравствуйте! Я учусь парсить сайты. На примере википедии. Возникла проблема: когда запускаю для...

Парсинг сайтов на Python
Всем привет. В программировании новичок. Появилась необходимость спарсить страничку на headhunter...

Парсинг данных с сайтов
Доброго времени суток! Проблема в том, что некоторые сайты запрещают автоматически парсить свои...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
2
Ответ Создать тему
Опции темы

КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2024, CyberForum.ru