|
0 / 0 / 0
Регистрация: 25.11.2013
Сообщений: 2
|
|
Сайт блокирует парсер25.11.2013, 17:20. Показов 3524. Ответов 4
Метки нет (Все метки)
Пытаюсь спарсить с сайта все информацию о товарах. Парсить пытался без CURLа, просто через file_get_content, использовал ajax, ставил рандомное время таймаута между открытием страниц, в результате - на n-ной странице (10 - 15) получал бан по IP на сутки. Сайт несколько раз лежал от DDOSа. Возможно это как то связано с анти-DDOS системой.
Слышал, что такие вещи лучше делать через CURL, только вот изменит ситуацию его использование - не знаю.
0
|
|
| 25.11.2013, 17:20 | |
|
Ответы с готовыми решениями:
4
Как установить парсер на сайт доску обьявлений
Роутер блокирует сайт |
|
122 / 122 / 27
Регистрация: 22.10.2013
Сообщений: 425
|
|
| 26.11.2013, 16:33 | |
|
попробуйте открыть эти 10-15 страниц браузером.. замерте время и если бана не будет вычислите паузу... и не забанит .. курл мало что изменит.. ( возможна отстуствие юзер агента есть доп параметр при бане.. но его можна и в файл_гет.. ) а также X_FOR.. вставляйте рандомный ип...
а так 100% вариант курл + прокси
0
|
|
|
508 / 358 / 13
Регистрация: 12.03.2012
Сообщений: 1,896
|
|
| 26.11.2013, 22:38 | |
|
fofan1988, я слышал, что надо спрашивать разрешение у владельца сайта.
0
|
|
|
0 / 0 / 0
Регистрация: 25.11.2013
Сообщений: 2
|
||||||
| 27.11.2013, 15:07 [ТС] | ||||||
|
Пробую через CURL - тот же результат.
0
|
||||||
|
PHP developer
259 / 157 / 26
Регистрация: 20.03.2013
Сообщений: 1,018
|
|||||||
| 02.12.2013, 14:13 | |||||||
|
Не по теме: Парсер пишете? :) Добавлено через 6 минут
0
|
|||||||
| 02.12.2013, 14:13 | |
|
Помогаю со студенческими работами здесь
5
Браузер блокирует сайт Файрволл блокирует сайт Аваст блокирует сайт Вконтакте Антивирус блокирует сайт ... помогите! Блокирует сайт с ошибкой 404 Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
Новые блоги и статьи
|
|||
|
сукцессия микоризы: основная теория в виде двух уравнений.
anaschu 11.01.2026
https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
|
WordPad для Windows 11
Jel 10.01.2026
WordPad для Windows 11
— это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .
|
Classic Notepad for Windows 11
Jel 10.01.2026
Old Classic Notepad for Windows 11
Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .
|
Почему дизайн решает?
Neotwalker 09.01.2026
В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .
|
|
Модель микоризы: классовый агентный подход 3
anaschu 06.01.2026
aa0a7f55b50dd51c5ec569d2d10c54f6/
O1rJuneU_ls
https:/ / vkvideo. ru/ video-115721503_456239114
|
Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR
ФедосеевПавел 06.01.2026
Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR
ВВЕДЕНИЕ
Введу сокращения:
аналоговый ПИД — ПИД регулятор с управляющим выходом в виде числа в диапазоне от 0% до. . .
|
Модель микоризы: классовый агентный подход 2
anaschu 06.01.2026
репозиторий https:/ / github. com/ shumilovas/ fungi
ветка по-частям.
коммит Create переделка под биомассу. txt
вход sc, но sm считается внутри мицелия. кстати, обьем тоже должен там считаться. . . .
|
Расчёт токов в цепи постоянного тока
igorrr37 05.01.2026
/ *
Дана цепь постоянного тока с сопротивлениями и источниками (напряжения, ЭДС и тока). Найти токи и напряжения во
всех элементах. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа и. . .
|