Парсер на CURL. Пустой запрос от сервера

@Para bellum · Регистрация: 06.01.2011

Студворк — интернет-сервис помощи студентам

Здравствуйте. Помогите, пожалуйста, решить такую проблему. Есть парсер, данные получает при помощи CURL. Обрабатывает 39 запросов нормально (при каждом запросе сервер возвращает 301, всё хорошо и правильно перенаправляется), а на сороковом перенаправлении сервер возвращает пустой ответ. В чём может быть причина? Может быть заголовки какие нужно серверу послать, может лимит по запросам на сервере?

@Zvook · 16.12.2013, 08:03

Очень похоже на ДДОС протекшен. У тебя сервер или хостинг? Если хостинг, то думаю есть смысл спросить у хостера.
Пустой ответ возвращается с каким кодом?
Что логи апача/нгникса говорят?

@Para bellum · 16.12.2013, 08:15 **[ТС]**

Сообщение от Zvook

У тебя сервер или хостинг?

Я запускаю на локальном компьютере, то есть получается - сервер.

Сообщение от Zvook

Пустой ответ возвращается с каким кодом?

Ошибка 52 (curl_errono).
Вообще я просёк такое дело - что ошибка выдаётся как раз тогда, когда связь с интернетом, хоть на секунду, да прерывается.

@Zvook · 16.12.2013, 08:21

Погоди, ты curl'ом откуда данные тянешь? Не с локальной машины ведь?

Вообще я просёк такое дело - что ошибка выдаётся как раз тогда, когда связь с интернетом, хоть на секунду, да прерывается.

Возможно, но не уверен, по идее это другая ошибка должна быть

@Para bellum · 16.12.2013, 08:33 **[ТС]**

А я думаю, что вполне логично - мой парсер получает заголовки с 301 перенаправлением, а в это время интернет отключается. Перенаправиться не может и - ошибка.
А может и по другой причине ошибка, кто его знает...

@Zvook · 16.12.2013, 08:45

мой парсер получает заголовки с 301 перенаправлением

Так я почему и спрашиваю что всетаки приходит то?

Если я правильно помню принцип 301 редиректа, то ты сначала всетаки должен получить этот 301 редирект, а потом уже направиться по пути, куда он ведет

И насколько я понял, ты его не получаешь, а получаешь пустой ответ. Или нет?

@Para bellum · 16.12.2013, 09:22 **[ТС]**

Данные я получаю с сайта в интернете. CURL выдаёт "Empty reply from server". Заголовки от сервера пишутся в файл. Последний заголовок содержит в себе 301 перенаправление.

@Zvook · 16.12.2013, 10:21

Сообщение от lyod

Данные я получаю с сайта в интернете. CURL выдаёт "Empty reply from server". Заголовки от сервера пишутся в файл. Последний заголовок содержит в себе 301 перенаправление.

Ну так вот возможно на это сайте (хостинге этого сайта) установлен ДДОС протекшен, с лимитом в 40 запросов. Вот он у тебя на 40-вом запросе и сыпется.

@Para bellum · 16.12.2013, 10:33 **[ТС]**

Я уже и не знаю. Пробовал с другим выходом в интернет - там гораздо больше запросов прошло. Спасибо вам за ответы. Ну его, этот парсер

.

@r3ntg3n · 16.12.2013, 12:12

Сообщение от lyod

Последний заголовок содержит в себе 301 перенаправление.

Добавьте к вашему cURL запросу параметр

PHP
1
curl_setopt($curlHandler, CURLOPT_FOLLOWLOCATION, 1);

@Para bellum · 16.12.2013, 12:41 **[ТС]**

Спасибо, это есть.

Последнее 301 перенаправление - не единственное, а одно из. Предыдущие обрабатываются корректно.

Новые блоги и статьи Все статьи Все блоги /
Первый деплой lagorue 16.01.2026 Не спеша развернул своё 1ое приложение в kubernetes. А дальше мне интересно создать 1фронтэнд приложения и 2 бэкэнд приложения развернуть 2 деплоя в кубере получится 2 сервиса и что-бы они. . .	Расчёт переходных процессов в цепи постоянного тока igorrr37 16.01.2026 / * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит токи на L и напряжения на C в установ. режимах до и. . .	Восстановить юзерскрипты Greasemonkey из бэкапа браузера damix 15.01.2026 Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .	Изучаю kubernetes lagorue 13.01.2026 А пригодятся-ли мне знания kubernetes в России?
Сукцессия микоризы: основная теория в виде двух уравнений. anaschu 11.01.2026 https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/	WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .	Почему дизайн решает? Neotwalker 09.01.2026 В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .

@Para bellum 5755 / 4134 / 1508 Регистрация: 06.01.2011 Сообщений: 11,276

	Парсер на CURL. Пустой запрос от сервера 15.12.2013, 08:19. Показов 5519. Ответов 10 Метки нет (Все метки) Здравствуйте. Помогите, пожалуйста, решить такую проблему. Есть парсер, данные получает при помощи CURL. Обрабатывает 39 запросов нормально (при каждом запросе сервер возвращает 301, всё хорошо и правильно перенаправляется), а на сороковом перенаправлении сервер возвращает пустой ответ. В чём может быть причина? Может быть заголовки какие нужно серверу послать, может лимит по запросам на сервере? 0

@Zvook 91 / 91 / 23 Регистрация: 02.09.2013 Сообщений: 276
	16.12.2013, 08:03
	Очень похоже на ДДОС протекшен. У тебя сервер или хостинг? Если хостинг, то думаю есть смысл спросить у хостера. Пустой ответ возвращается с каким кодом? Что логи апача/нгникса говорят? 1

@Para bellum 5755 / 4134 / 1508 Регистрация: 06.01.2011 Сообщений: 11,276
	16.12.2013, 08:33 [ТС]
	А я думаю, что вполне логично - мой парсер получает заголовки с 301 перенаправлением, а в это время интернет отключается. Перенаправиться не может и - ошибка. А может и по другой причине ошибка, кто его знает... 0

@Para bellum 5755 / 4134 / 1508 Регистрация: 06.01.2011 Сообщений: 11,276
	16.12.2013, 09:22 [ТС]
	Данные я получаю с сайта в интернете. CURL выдаёт "Empty reply from server". Заголовки от сервера пишутся в файл. Последний заголовок содержит в себе 301 перенаправление. 0

@Para bellum 5755 / 4134 / 1508 Регистрация: 06.01.2011 Сообщений: 11,276
	16.12.2013, 10:33 [ТС]
	Я уже и не знаю. Пробовал с другим выходом в интернет - там гораздо больше запросов прошло. Спасибо вам за ответы. Ну его, этот парсер . 0

@Para bellum 5755 / 4134 / 1508 Регистрация: 06.01.2011 Сообщений: 11,276
	16.12.2013, 12:41 [ТС]
	Спасибо, это есть. Последнее 301 перенаправление - не единственное, а одно из. Предыдущие обрабатываются корректно. 0