Форум программистов, компьютерный форум, киберфорум
PHP: сети
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.50/12: Рейтинг темы: голосов - 12, средняя оценка - 4.50
23 / 23 / 6
Регистрация: 11.12.2011
Сообщений: 300

Парсер сайта

23.10.2012, 10:43. Показов 2446. Ответов 5
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
появилась задача написать парсер одного сайта. Но есть одна загвоздка, на сайте который будет парситься инфа обновляется постоянно. Так вот как сделать, чтобы парсер работал 24 часа в сутки.
Есть такая идея:
Загнать скрипт парсера в крон, чтобы он исполнялся раз в 5-10 секунд
0
IT_Exp
Эксперт
34794 / 4073 / 2104
Регистрация: 17.06.2006
Сообщений: 32,602
Блог
23.10.2012, 10:43
Ответы с готовыми решениями:

Парсер для сайта
Скажите, может ли кто-нибудь написать парсер для сайта бесплатно, просто так сказать для укрепления и улучшения своих знаний и навыков....

Парсер сайта с GeoIp
пишу парсер для сайта, как задать для сайта дать айпи не хостинга а свой, чтобы определял мой город и парсил из моего города, а не другого,...

Парсер таблицы с другого сайта
Здравствуйте уважаемые форумчане. Стоит задача вывести таблицу с сайта A на сайт B, на сайте А надо пройти авторизацию. В кодинге...

5
112 / 93 / 15
Регистрация: 03.10.2012
Сообщений: 315
23.10.2012, 11:07
Парсинг ресурса раз в 5-10 секунд - это весомая нагрузка. Конечно, если у вас для парсинга будет тупо отдельный сервер, тогда реально.
0
23 / 23 / 6
Регистрация: 11.12.2011
Сообщений: 300
23.10.2012, 11:14  [ТС]
ну вот и я думаю про нагрузку. если парсить раз в минуту, то я думаю тоже будет накладно, но тут же будет громадный минус в неактуальности инфы.
0
112 / 93 / 15
Регистрация: 03.10.2012
Сообщений: 315
23.10.2012, 11:17
Один знакомый парсит AppStore, парсят раз в сутки, 2мя серверами, пару месяцев назад жаловался на аццкие нагрузки.
0
23 / 23 / 6
Регистрация: 11.12.2011
Сообщений: 300
23.10.2012, 11:19  [ТС]
Понял. То есть можно сказать утопия ) . Спасибо
0
112 / 93 / 15
Регистрация: 03.10.2012
Сообщений: 315
23.10.2012, 11:21
Ну, если вам нужно оперативное обновление информации, договоритесь с этим сайтом о партнерстве. Создайте у себя интерфейс какой-то, через который ваши партнеры после постинга контента себе, будут сбрасывать вам инфу для вашего сайта.

Если же вы хотите "в тихую" сливать инфу - то тут надо смотреть. Да и парсинг раз в пару минут будет создавать нагрузку на сайт, что просекут админы и попросту срежут потом ваш сервер в файрволе.
1
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
BasicMan
Эксперт
29316 / 5623 / 2384
Регистрация: 17.02.2009
Сообщений: 30,364
Блог
23.10.2012, 11:21
Помогаю со студенческими работами здесь

Php парсер сайта, где город выбирается через куки
вот код моего парсера : include 'simple_html_dom.php'; $content=file_get_html('http://www.cinemapark.ru/films'); ...

Парсер данных с сайта
Нужна помощь в реализации задачи. Задача такая: Есть сайт, назовем его: site.com 1. Методом post/get пройти авторизацию на странице...

Парсер данных с сайта
шалом, помогите написать простой парсер данных с сайта oddsportal.com мне надо собрать базу коэффициентов предстоящих матчей топ...

Парсер для документа с сайта
Добрый день! Возможно ли получить необходимую информацию из документа (вордовский документ), который расположен на сайте? Необходимо...

Парсер сайта и ссылок с сайта
Добрый день. Подскажите, как реализовать парсер сайта, с которого парсятся все URL и в свою очередь, с них парсятся еще URL?(содержимое...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
6
Ответ Создать тему
Новые блоги и статьи
http://iceja.net/ математические сервисы
iceja 20.01.2026
Обновила свой сайт http:/ / iceja. net/ , приделала Fast Fourier Transform экстраполяцию сигналов. Однако предсказывает далеко не каждый сигнал (см ограничения http:/ / iceja. net/ fourier/ docs ). Также. . .
http://iceja.net/ сервер решения полиномов
iceja 18.01.2026
Выкатила http:/ / iceja. net/ сервер решения полиномов (находит действительные корни полиномов методом Штурма). На сайте документация по API, но скажу прямо VPS слабенький и 200 000 полиномов. . .
Расчёт переходных процессов в цепи постоянного тока
igorrr37 16.01.2026
/ * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит переходные токи и напряжения на элементах схемы. . . .
Восстановить юзерскрипты Greasemonkey из бэкапа браузера
damix 15.01.2026
Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .
Сукцессия микоризы: основная теория в виде двух уравнений.
anaschu 11.01.2026
https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
WordPad для Windows 11
Jel 10.01.2026
WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .
Classic Notepad for Windows 11
Jel 10.01.2026
Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .
Почему дизайн решает?
Neotwalker 09.01.2026
В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru