С Новым годом! Форум программистов, компьютерный форум, киберфорум
PHP: сети
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.83/18: Рейтинг темы: голосов - 18, средняя оценка - 4.83
0 / 0 / 0
Регистрация: 25.11.2013
Сообщений: 2

Сайт блокирует парсер

25.11.2013, 17:20. Показов 3524. Ответов 4
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Пытаюсь спарсить с сайта все информацию о товарах. Парсить пытался без CURLа, просто через file_get_content, использовал ajax, ставил рандомное время таймаута между открытием страниц, в результате - на n-ной странице (10 - 15) получал бан по IP на сутки. Сайт несколько раз лежал от DDOSа. Возможно это как то связано с анти-DDOS системой.

Слышал, что такие вещи лучше делать через CURL, только вот изменит ситуацию его использование - не знаю.
0
Programming
Эксперт
39485 / 9562 / 3019
Регистрация: 12.04.2006
Сообщений: 41,671
Блог
25.11.2013, 17:20
Ответы с готовыми решениями:

Как установить парсер на сайт доску обьявлений
подскажите как установить парсер на сайт доску обьявлений

OC блокирует сайт
Не знаю куда написать, в какую тему. В общем есть сайт sfu-kras.ru не могу зайти. Что я делал: 1) Отключал антивирус. 2) Проверял файл...

Роутер блокирует сайт
Здравствуйте. Проблема следующая: при подключении через роутер не могу открыть сайт https://socialclub.rockstargames.com/ Если же...

4
 Аватар для JxF-TEAM
122 / 122 / 27
Регистрация: 22.10.2013
Сообщений: 425
26.11.2013, 16:33
попробуйте открыть эти 10-15 страниц браузером.. замерте время и если бана не будет вычислите паузу... и не забанит .. курл мало что изменит.. ( возможна отстуствие юзер агента есть доп параметр при бане.. но его можна и в файл_гет.. ) а также X_FOR.. вставляйте рандомный ип...
а так 100% вариант курл + прокси
0
508 / 358 / 13
Регистрация: 12.03.2012
Сообщений: 1,896
26.11.2013, 22:38
fofan1988, я слышал, что надо спрашивать разрешение у владельца сайта.
0
0 / 0 / 0
Регистрация: 25.11.2013
Сообщений: 2
27.11.2013, 15:07  [ТС]
Пробую через CURL - тот же результат.

PHP
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
   $curl = curl_init(); //инициализация сеанса
   curl_setopt($curl, CURLOPT_URL, 'http://www.сайт.ru/projects.php'); //урл сайта к которому обращаемся
      
   curl_setopt($curl, CURLOPT_COOKIEJAR, $_SERVER['DOCUMENT_ROOT'].'/cook.txt');//сохранить куки в файл
   curl_setopt($curl, CURLOPT_COOKIEFILE, $_SERVER['DOCUMENT_ROOT'].'/cook.txt');//считать куки из файла   
   
   curl_setopt($curl, CURLOPT_HEADER, 1); //выводим заголовки
   curl_setopt($curl, CURLOPT_POST, 1); //передача данных методом POST
   curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1); //теперь curl вернет нам ответ, а не выведет
   
   curl_setopt($curl, CURLOPT_FAILONERROR, 1);
   
   //curl_setopt($curl, CURLOPT_PROXY, "218.246.22.98:3128");
 
   /*
   curl_setopt($curl, CURLOPT_POSTFIELDS, //тут переменные которые будут переданы методом POST
   array (
      'name'=>'',
      'searchButton'=>'get' //это на случай если на сайте, к которому обращаемся проверяется была ли нажата кнопка submit, а не была ли оправлена форма
   ));
   */
   
   curl_setopt($curl, CURLOPT_USERAGENT, 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:25.0) Gecko/20100101 Firefox/25.0'); //эта строчка как-бы говорит: "я не скрипт, я IE5" :)
   
   
   
   curl_setopt ($curl, CURLOPT_REFERER, "http://сайт.ru"); //а вдруг там проверяют наличие рефера
   $res = curl_exec($curl);
Может дело в том, что я запрашиваю ID товаров последовательно....
0
PHP developer
 Аватар для masik49
259 / 157 / 26
Регистрация: 20.03.2013
Сообщений: 1,018
02.12.2013, 14:13
Цитата Сообщение от fofan1988 Посмотреть сообщение
Может дело в том, что я запрашиваю ID товаров последовательно....

Не по теме:

Парсер пишете? :)



Добавлено через 6 минут
PHP
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
function getCurl($link, $referer = null){
            $ch = curl_init();
 
            curl_setopt($ch, CURLOPT_HEADER, 0);
            curl_setopt($ch, CURLOPT_REFERER, $referer);
            curl_setopt($ch, CURLOPT_USERAGENT, "Opera/9.80 (Windows NT 5.1; U; ru) Presto/2.9.168 Version/11.51");
            curl_setopt($ch, CURLOPT_URL, $link);
            curl_setopt($ch, CURLOPT_TIMEOUT, 10);
            curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
            curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);
 
            $html = curl_exec($ch);
            echo curl_error($ch);
            curl_close($ch);
            return $html;
        }
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
inter-admin
Эксперт
29715 / 6470 / 2152
Регистрация: 06.03.2009
Сообщений: 28,500
Блог
02.12.2013, 14:13
Помогаю со студенческими работами здесь

Браузер блокирует сайт
Такая проблема браузер думает что на сайте есть реклама и блокирует хотя ее нет. Из за этого сайт не может работать так как должен.  ...

Файрволл блокирует сайт
Доброго всем вечера. У меня nod32 Smart Security 5. При заходе на сайт cracklab блокирует и пишет, что сайт входит в список веб-сайтов с...

Аваст блокирует сайт Вконтакте
Здравствуйте. Аваст блокирует сайт "Вконтакте", при выключении антивируса на сайт заходит, но как только я ввел логин и пароль, то пишет,...

Антивирус блокирует сайт ... помогите!
Сайт: http://*ikvid.com ... увидел где то камент к видео что сайт блокирует антивирус ... притом что на сайте нет ничего плохого это...

Блокирует сайт с ошибкой 404
Доброе время суток! Такой вот вопрос. Есть машина - сервер, с правами админа. Подключена напрямую к ADSL модему. Все сайты работают, кроме...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
5
Ответ Создать тему
Новые блоги и статьи
сукцессия микоризы: основная теория в виде двух уравнений.
anaschu 11.01.2026
https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
WordPad для Windows 11
Jel 10.01.2026
WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .
Classic Notepad for Windows 11
Jel 10.01.2026
Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .
Почему дизайн решает?
Neotwalker 09.01.2026
В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .
Модель микоризы: классовый агентный подход 3
anaschu 06.01.2026
aa0a7f55b50dd51c5ec569d2d10c54f6/ O1rJuneU_ls https:/ / vkvideo. ru/ video-115721503_456239114
Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR
ФедосеевПавел 06.01.2026
Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR ВВЕДЕНИЕ Введу сокращения: аналоговый ПИД — ПИД регулятор с управляющим выходом в виде числа в диапазоне от 0% до. . .
Модель микоризы: классовый агентный подход 2
anaschu 06.01.2026
репозиторий https:/ / github. com/ shumilovas/ fungi ветка по-частям. коммит Create переделка под биомассу. txt вход sc, но sm считается внутри мицелия. кстати, обьем тоже должен там считаться. . . .
Расчёт токов в цепи постоянного тока
igorrr37 05.01.2026
/ * Дана цепь постоянного тока с сопротивлениями и источниками (напряжения, ЭДС и тока). Найти токи и напряжения во всех элементах. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа и. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru