Форум программистов, компьютерный форум, киберфорум
PHP: сети
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.54/13: Рейтинг темы: голосов - 13, средняя оценка - 4.54
50 / 40 / 5
Регистрация: 30.06.2010
Сообщений: 1,191

Как с Curl грузить страницы, на которых подгружается контент

02.06.2014, 11:26. Показов 2685. Ответов 1
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Кто знает, как с курлом грузить страницы, на которых контент подгружается? Есть например страница стима http://steamcommunity.com/mark... ntity_desc. на ней вещи из игры. Хотел спарсить их хар-ки(название, цена и т.д.), но тут проблема.
Code
1
...#p3_quantity_desc
этот параметр в адресной строке содержит информацию о номере текущей страницы. При загрузке курлом этой ссылки, загружается почему-то не третья страница(p3_quantity_desc), а первая(p1_quantity_desc). Как исправить это? как загружать остальные страницы?

Добавлено через 10 часов 25 минут
Это даже вроди бы не как гет параметр.
0
Лучшие ответы (1)
IT_Exp
Эксперт
34794 / 4073 / 2104
Регистрация: 17.06.2006
Сообщений: 32,602
Блог
02.06.2014, 11:26
Ответы с готовыми решениями:

Не подгружается контент после перезагрузки страницы
<!DOCTYPE html> <script type='text/javascript' src='http://ajax.googleapis.com/ajax/libs/jquery/1.4/jquery.min.js'></script> ...

WebBrowser перестал грузить динамичный контент
Здравствуйте, форумчане! Помогите, пожалуйста, справиться с проблемой: Пишу парсер сайта soccerstand.com(спортивные события). В...

Будет ли поисковый робот индексировать контент, который подгружается из БД?
Написал для тренировки блог, в котором все посты подгружаются из БД, будет ли поисковый робот читать и индексировать всю эту инфу?

1
2 / 2 / 4
Регистрация: 16.07.2013
Сообщений: 30
18.06.2014, 04:55
Лучший ответ Сообщение было отмечено ProstoMad как решение

Решение

Посмотри на отправки заголовков, к Аджакс, и что она принимает
?query=&start=30&count=10&search_descrip tions=0&sort_column=quantity&sort_dir=de sc&appid=570
Вот ссылка третьей страницы.
query=&start=40&count=10&search_descript ions=0&sort_column=quantity&sort_dir=des c&appid=570
Вот ссылка четвертой страницы.

Тебе надо загружать это страницу, она в JSON и переводить в Массив с помощью .
PHP
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
$pageNum = 3; //Третью страницу с результатами
$start = $pageNum*10; //Начинать с этого результата
 
$url = "http://steamcommunity.com/market/search/render/?query=".$start."&start=30&count=10&search_descriptions=0&sort_column=quantity&sort_dir=desc&appid=570";
 
$c = curl_init($url);
 
curl_setopt($c, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($c, CURLOPT_HEADER, false);
curl_setopt($c, CURLOPT_FOLLOWLOCATION, 1);
 
$jsonResult = curl_exec($c);
$result = json_decode($jsonResult, true); //Перевод в массив
 
curl_close ($c);
 
//Проеврка результата
echo "<pre>";
var_dump($result);
Добавлено через 16 минут
Посмотри адрес серверва во время запроса по AJAX, для третьей страницы с результатами:
[A]?query=&start=30&count=10&search_descrip tions=0&sort_column= quantity&sort_dir=desc&appid=570[/A]
Для четвертой страницы с результатами:
[A]?query=&start=40&count=10&search_descrip tions=0&sort_column=q uantity&sort_dir=desc&appid=570[/A]

Тебе надо загружать результаты по этим ссылкам, они в формате JSON и поэтому после полцчения данных переводить в массив с помощью встроенной функции json_decode().

PHP
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
$pageNum = 3;            //Третью страницу с результатами -#p3_quantity_desc
$start = $pageNum*10; //Начинать с этого результата
 
$url = "http://steamcommunity.com/market/search/render/?query=&start=".$start."&count=10&search_descriptions=0&sort_column=quantity&sort_dir=desc&appid=570";
 
$c = curl_init($url);
 
curl_setopt($c, CURLOPT_RETURNTRANSFER, true);
curl_setopt($c, CURLOPT_HEADER, false);
curl_setopt($c, CURLOPT_FOLLOWLOCATION, true);
 
$jsonResult = curl_exec($c);
$result = json_decode($jsonResult, true); //Перевод в массив
 
curl_close ($c);
 
//Проеврка результата
echo "<pre>";
var_dump($result);
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
BasicMan
Эксперт
29316 / 5623 / 2384
Регистрация: 17.02.2009
Сообщений: 30,364
Блог
18.06.2014, 04:55
Помогаю со студенческими работами здесь

Почему не подгружается контент?Кнопка "показать еще"
Здравствуйте. Подскажи пожалуйста, почему не работает подгрузка страницы. Мне нужно,чтобы при нажатии на кнопку, подгружался...

Curl выводит контент
$curl = curl_init($url); curl_setopt($curl, CURLOPT_TIMEOUT, 5); $resurs = curl_exec($curl); $resHttp = curl_getinfo($curl,...

Как добавить страницы к парсингу? (cURL)
Есть код: &lt;html&gt; &lt;head&gt;&lt;/head&gt; &lt;body&gt; &lt;?php function browser($url) { $url=&quot;https://site.com/page?p=1&quot;; $ch = curl_init($url);...

Как зафиксировать намертво контент (содержимое) страницы?
Привет, столкнулся с такой надобностью. В принципе вопрос давно назревал. Но сейчас походу достало. Например имею документ в...

После 10-15 минут все браузеры начинают плохого грузить страницы
Помогите с таким вопросом. После запуска ПК, браузеры, а именно Opera и Google Chrome работают отлично первые 10-15 минут, после этого...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
2
Ответ Создать тему
Новые блоги и статьи
http://iceja.net/ сервер решения полиномов
iceja 18.01.2026
Выкатила http:/ / iceja. net/ сервер решения полиномов (находит действительные корни полиномов методом Штурма). На сайте документация по API, но скажу прямо VPS слабенький и 200 000 полиномов. . .
Первый деплой
lagorue 16.01.2026
Не спеша развернул своё 1ое приложение в kubernetes. А дальше мне интересно создать 1фронтэнд приложения и 2 бэкэнд приложения развернуть 2 деплоя в кубере получится 2 сервиса и что-бы они. . .
Расчёт переходных процессов в цепи постоянного тока
igorrr37 16.01.2026
/ * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит: токи, напряжения и их 1 и 2 производные при t = 0;. . .
Восстановить юзерскрипты Greasemonkey из бэкапа браузера
damix 15.01.2026
Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .
Изучаю kubernetes
lagorue 13.01.2026
А пригодятся-ли мне знания kubernetes в России?
Сукцессия микоризы: основная теория в виде двух уравнений.
anaschu 11.01.2026
https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
WordPad для Windows 11
Jel 10.01.2026
WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .
Classic Notepad for Windows 11
Jel 10.01.2026
Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru