Multi curl через прокси

01.11.2018, 18:13. Показов 2314. Ответов 0

Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам

Использую данну конструкцию для быстрейшего получения информации с разных страниц некого сайта

PHP
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
$channels=array();
$multi=curl_multi_init();
foreach($arr_url as $url){
   $ch=curl_init(); 
   curl_setopt($ch,CURLOPT_URL,$url.$url_dop);
   curl_setopt($ch,CURLOPT_COOKIEFILE,'cookies/1.txt');
   curl_setopt($ch,CURLOPT_COOKIE,'cookiename=1');
   curl_setopt($ch,CURLOPT_TIMEOUT,30);
   curl_setopt($ch,CURLOPT_CONNECTTIMEOUT,30); 
   curl_setopt($ch,CURLOPT_FOLLOWLOCATION,FALSE);
   curl_setopt($ch,CURLOPT_RETURNTRANSFER,TRUE);
   curl_setopt($ch,CURLOPT_SSL_VERIFYPEER,FALSE);
   curl_setopt($ch,CURLOPT_SSL_VERIFYHOST,FALSE);
   curl_setopt($ch,CURLOPT_HEADER,TRUE);
   curl_setopt($ch,CURLOPT_POST,FALSE);
#$proxy_ip и $proxy_port берутся из базы и все разные
   curl_setopt($ch,CURLOPT_PROXY,$proxy_ip);
   curl_setopt($ch,CURLOPT_PROXYPORT,$proxy_port);
   curl_multi_add_handle($multi,$ch);
   $channels[$url]=$ch;
   }
$active=NULL; do{ curl_multi_exec($multi,$active); } while($active>0);
foreach($channels as $url=>$channel){
   $content=curl_multi_getcontent($channel);
   curl_multi_remove_handle($multi,$channel);
   }
curl_multi_close($multi);

$proxy_ip и $proxy_port на каждый запрос разные, страницы тоже разные, но вот если я запрошу 10 страниц то скрипт будет работать как будто 10 страниц подряд парсит а не все сразу, чем больше страниц тем дольше.
Подскажите почему скрипт работает по порядку а не синхронно?

IT_Exp

Эксперт

34794 / 4073 / 2104

Регистрация: 17.06.2006

Сообщений: 32,602

Блог

01.11.2018, 18:13

Ответы с готовыми решениями:

Curl через прокси
В общем виде всё так: <?php function get($url,$proxy) { $ch = curl_init(); curl_setopt($ch, CURLOPT_PROXY,...

Curl через прокси
как зайти на сайт через прокси с помощью курла? в гугле много нашел примеров но там не указываются сами адреса прокси, подскажите как...

Curl через прокси
Добрый день. Возникло желание спарсить страницу с сайта в инете локальным скриптом. Да вот незадача: на локальном компе, где стоит Денвер...

Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.

BasicMan

Эксперт

29316 / 5623 / 2384

Регистрация: 17.02.2009

Сообщений: 30,364

Блог

01.11.2018, 18:13

Помогаю со студенческими работами здесь

Multi curl с несколькими шагами
К примеру у меня есть простой запрос $ch=curl_init(); curl_setopt($ch,CURLOPT_URL,$url_1); ...

cURL не всегда работает прокси
Настройки такие curl_setopt ( $ch, CURLOPT_HEADER, 0 ); curl_setopt ( $ch, CURLOPT_RETURNTRANSFER, 1 ); curl_setopt ( $ch,...

Multi curl
Добрый вечер, некоторыми постами ниже, с горем пополам разобрался с циклами. Но теперь стала задача, как ускорить процесс работы скрипта,...

Как разделить результат, возвращаемый Multi curl?
1)Я вообще непонимаю зачем нужна функция static int writer(char *data, size_t size, size_t nmemb, string *buffer) как по мне...

Использование прокси Curl
Здравствуйте. Использую libcurl: https://curl.haxx.se/libcurl/c/libcurl.html Зависает программа (APPCRASH) при использовании некоторых...

Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:

Новые блоги и статьи Все статьи Все блоги /
Расчёт переходных процессов в цепи постоянного тока igorrr37 16.01.2026 / * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит токи на L и напряжения на C в установ. режимах до и. . .	Восстановить юзерскрипты Greasemonkey из бэкапа браузера damix 15.01.2026 Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .	Изучаю kubernetes lagorue 13.01.2026 А пригодятся-ли мне знания kubernetes в России?	Сукцессия микоризы: основная теория в виде двух уравнений. anaschu 11.01.2026 https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .	Почему дизайн решает? Neotwalker 09.01.2026 В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .	Модель микоризы: классовый агентный подход 3 anaschu 06.01.2026 aa0a7f55b50dd51c5ec569d2d10c54f6/ O1rJuneU_ls https:/ / vkvideo. ru/ video-115721503_456239114

Наверх