Парсер для avito

@BESSON_off · Регистрация: 08.07.2013

Студворк — интернет-сервис помощи студентам

Всем привет!
Хочу написать парсер для сайта avito. Суть следующая: хочу чтобы алгоритм заходил на сайт, делал сортировку на заданным критериям (например, ищу авто, г.Новосибирск, от 200 000 до 500 000), но не могу разобраться с тем, как сортировать. Могу скачать html страницу полностью... а как сортировать? Нужен правильно сформированный POST сделать?

@Kverter · 25.09.2014, 16:52

Верно, нужно правильно сформировать и отправить запрос. Так и не понял в чем проблема то?

@BESSON_off · 27.09.2014, 11:29 **[ТС]**

Проблема в том, что не могу правильно сформировать нужный POST - где взять инфу о данных, которые должен содержать запрос?

@BESSON_off · 28.09.2014, 16:39 **[ТС]**

Как?

@UnsKneD · 28.09.2014, 20:09

BESSON_off, посмотри как это делает сам сайт. и почему POST, если GET?

*****.**/kostomuksha?s=2&user=1

@MakcPletnev · 28.09.2014, 20:15

как на плюсах отправить запрос!? мб я из древнего мира?!!

MrGluck · 28.09.2014, 23:36

Сообщение от MakcPletnev

как на плюсах отправить запрос!? мб я из древнего мира?!!

С помощью встроенных средств языка - никак. Для этого существуют отдельные библиотеки.

KOPOJI · 28.09.2014, 23:53

например, с помощью libcurl. Как-то так (пишу по памяти, может, ошибся где-то)

C++
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
#include <iostream>
#include <curl/curl.h>
 
int main(int argc, char *argv[])
{
    CURL *curl = curl_easy_init();
    if(!curl)
    {
        std::cerr << "Error: unable to init CUrl" << std::endl;
        exit(1);
    }
    curl_easy_setopt(curl, CURLOPT_URL, "http://avito.ru/......");
    curl_easy_setopt(curl, CURLOPT_POST, 1);
    curl_easy_setopt(curl, CURLOPT_POSTFIELDS, "foo=bar&lol=lorem&ipsum=dolor");
    curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION, saveData);
 
    curl_easy_perform(curl);
 
    curl_easy_cleanup(curl);
}

Описываете функцию saveData (не помню, какие там параметры), и все.. Изменили параметры - отправили новый запрос (не забудьте предварительно очистить буфер)

Добавлено через 3 минуты
З.Ы. для авито, наверное, еще потребуется установить user-agent (CURLOPT_USERAGENT), возможно referer (CURLOPT_REFERER) и/или прокси (CURLOPT_PROXY..)

@MakcPletnev · 30.09.2014, 14:48

Сообщение от KOPOJI

например, с помощью libcurl. Как-то так (пишу по памяти, может, ошибся где-то)

C++
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
#include <iostream>
#include <curl/curl.h>
 
int main(int argc, char *argv[])
{
    CURL *curl = curl_easy_init();
    if(!curl)
    {
        std::cerr << "Error: unable to init CUrl" << std::endl;
        exit(1);
    }
    curl_easy_setopt(curl, CURLOPT_URL, "http://avito.ru/......");
    curl_easy_setopt(curl, CURLOPT_POST, 1);
    curl_easy_setopt(curl, CURLOPT_POSTFIELDS, "foo=bar&lol=lorem&ipsum=dolor");
    curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION, saveData);
 
    curl_easy_perform(curl);
 
    curl_easy_cleanup(curl);
}

Описываете функцию saveData (не помню, какие там параметры), и все.. Изменили параметры - отправили новый запрос (не забудьте предварительно очистить буфер)

Добавлено через 3 минуты
З.Ы. для авито, наверное, еще потребуется установить user-agent (CURLOPT_USERAGENT), возможно referer (CURLOPT_REFERER) и/или прокси (CURLOPT_PROXY..)

ого. на плюсах.. можете пояснить каждую строчку?) Спасибка с меня

KOPOJI · 30.09.2014, 15:19

Там, в общем-то, нечего пояснять.
curl_easy_init возвращает объект CURL, curl_easy_setopt устанавливает указанное свойство указанным значением. Список свойств есть на офф сайте http://curl.haxx.se/libcurl/c/... etopt.html. curl_easy_perform выполняет запрос к указанному URL, curl_easy_cleanup высвобождает память..

Добавлено через 19 секунд

Не по теме:

Сообщение от MakcPletnev

Спасибка с меня

мы работаем не за еду, а за "спасибки"! :claim: ? :D

@Avazart · 30.09.2014, 16:41

Блог: Библиотека libcurl

Но удобнее использовать фреймворки С++Builder или С++Qt

Новые блоги и статьи Все статьи Все блоги /
Новый ноутбук volvo 07.12.2025 Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro	Музыка, написанная Искусственным Интеллектом volvo 04.12.2025 Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .	От async/await к виртуальным потокам в Python IndentationError 23.11.2025 Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .	Поиск "дружественных имён" СОМ портов Argus19 22.11.2025 Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .	Сколько Государство потратило денег на меня, обеспечивая инсулином. Programma_Boinc 20.11.2025 Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .
Ломающие изменения в C#.NStar Alpha Etyuhibosecyu 20.11.2025 Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .	Мысли в слух kumehtar 18.11.2025 Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .	Создание Single Page Application на фреймах krapotkin 16.11.2025 Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .	Фото: Daniel Greenwood kumehtar 13.11.2025	Расскажи мне о Мире, бродяга kumehtar 12.11.2025 — Расскажи мне о Мире, бродяга, Ты же видел моря и метели. Как сменялись короны и стяги, Как эпохи стрелою летели. - Этот мир — это крылья и горы, Снег и пламя, любовь и тревоги, И бескрайние. . .

@BESSON_off 3 / 0 / 0 Регистрация: 08.07.2013 Сообщений: 351

	Парсер для avito 25.09.2014, 16:27. Показов 3801. Ответов 10 Метки нет (Все метки) Всем привет! Хочу написать парсер для сайта avito. Суть следующая: хочу чтобы алгоритм заходил на сайт, делал сортировку на заданным критериям (например, ищу авто, г.Новосибирск, от 200 000 до 500 000), но не могу разобраться с тем, как сортировать. Могу скачать html страницу полностью... а как сортировать? Нужен правильно сформированный POST сделать? 0

@Kverter 37 / 37 / 25 Регистрация: 30.10.2013 Сообщений: 211
	25.09.2014, 16:52
	Верно, нужно правильно сформировать и отправить запрос. Так и не понял в чем проблема то? 0

@BESSON_off 3 / 0 / 0 Регистрация: 08.07.2013 Сообщений: 351
	27.09.2014, 11:29 [ТС]
	Проблема в том, что не могу правильно сформировать нужный POST - где взять инфу о данных, которые должен содержать запрос? 0

@BESSON_off 3 / 0 / 0 Регистрация: 08.07.2013 Сообщений: 351
	28.09.2014, 16:39 [ТС]
	Как? 0

@UnsKneD алкокодер 157 / 153 / 41 Регистрация: 27.12.2012 Сообщений: 550
	28.09.2014, 20:09
	BESSON_off, посмотри как это делает сам сайт. и почему POST, если GET? ***./kostomuksha?s=2&user=1 0

@MakcPletnev 41 / 37 / 9 Регистрация: 01.02.2014 Сообщений: 825
	28.09.2014, 20:15
	как на плюсах отправить запрос!? мб я из древнего мира?!! 0

@Avazart 8484 / 6151 / 615 Регистрация: 10.12.2010 Сообщений: 28,683 Записей в блоге: 30
	30.09.2014, 16:41
	Блог: Библиотека libcurl Но удобнее использовать фреймворки С++Builder или С++Qt 0