Как обойти защиту OLX?

@Vanconts · Регистрация: 08.08.2019

Студворк — интернет-сервис помощи студентам

Делаю get запрос на olx и получаю ошибку что с моего IP была зафиксирована подозрительная активность и тд хотя если открыть страницу через браузер то все работает,я так понимаю у ОLX стоит защита,как ее обойти?

Добавлено через 41 минуту
Вот была похожая проблема - Как обойти защиту сайта OLX? только меня интересует можно ли как-то это сделать без использования различных программ?

@obivan · 11.09.2019, 14:59

Vanconts, вам просто так скорее не дадут пользоватmся их api нужен токен или что то подобное обычно, а за это просят денежку, когда у меня была похожая задача делал через qt, по сути загружал страницу и весь js, выполнял страницу и потом парсил это по сути то что вам и предлагают.В qt для этого можно использовать qwebengine или qwebkit,но немного не понятно ваше без использования различных программ, если заинтересованы свяжитесь с создателями сайта и возможно за какую то плату они дадут вам доступ к api это самый легкий способ

@Vanconts · 11.09.2019, 15:20 **[ТС]**

obivan, каким образом тогда работает wget?

@Renji · 11.09.2019, 16:20

Сообщение от Vanconts

Делаю get запрос на olx и получаю ошибку что с моего IP была зафиксирована подозрительная активность и тд хотя если открыть страницу через браузер то все работает,я так понимаю у ОLX стоит защита,как ее обойти?

Вероятно, плохо get делаете. Идите куда ни будь на whatismybrowser.com и выписывайте какие HTTP заголовки он у вас показывает. Допиливайте ваш get чтобы он отправлял точно такие же (в зависимости от реализации, он вообще может по умолчанию честно отсылать строчку "это бот"). Ну и поддержку куков включайте. Без понятия как это делается в вашем фреймворке, тут уж сами разбирайтесь.

@Vanconts · 11.09.2019, 17:36 **[ТС]**

Renji, спасибо большое)

Добавлено через 35 минут
Renji, окей,сдвиг есть,теперь выбивает что страница moved permanently 301

Добавлено через 4 минуты
Renji,

C++
1
2
3
4
5
6
7
8
9
10
ss << "GET /nieruchomosci.html" 
       << " HTTP/1.0\r\n"
       << "ACCEPT: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8\r\n" 
       << "ACCEPT_ENCODING: gzip, deflate, br\r\n"
       << "ACCEPT_LANGUAGE: en-US,en;q=0.5\r\n"
       << "Host: www.olx.pl\r\n"
       << "TE: trailers\r\n"
       << "UPGRADE_INSECURE_REQUESTS: 1\r\n"
       << "USER_AGENT: Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:69.0) Gecko/20100101 Firefox/69.0"
       << "\r\n\r\n";

вот такой запрос

@Renji · 11.09.2019, 17:43

Сообщение от Vanconts

Renji, окей,сдвиг есть,теперь выбивает что страница moved permanently 301

301 - редирект. В ответе сервера должен быть Location заголовок показывающий куда вас перенаправляют. По "HTTP/1.0" могу предположить что вас принудительно перекидывают на HTTPS-версию сайта.

@Vanconts · 11.09.2019, 17:47 **[ТС]**

Renji, ну да ,ссылка https

Location: [url]https://www.olx.pl/nieruchomosci.html

как сделать так чтобы либо не перекидывало либо скачать страницу с https версии сайта?

@Renji · 11.09.2019, 17:53

Сообщение от Vanconts

как сделать так чтобы либо не перекидывало либо скачать страницу с https версии сайта?

Искать фреймворк умеющий HTTPS. Какой - хз. Я для целей парсинга страниц просто делаю скрипт на Перле, там все из коробки работает (модуль LWP если что).

Новые блоги и статьи Все статьи Все блоги /
http://iceja.net/ математические сервисы iceja 20.01.2026 Обновила свой сайт http:/ / iceja. net/ , приделала Fast Fourier Transform экстраполяцию сигналов. Однако предсказывает далеко не каждый сигнал (см ограничения http:/ / iceja. net/ fourier/ docs ). Также. . .	http://iceja.net/ сервер решения полиномов iceja 18.01.2026 Выкатила http:/ / iceja. net/ сервер решения полиномов (находит действительные корни полиномов методом Штурма). На сайте документация по API, но скажу прямо VPS слабенький и 200 000 полиномов. . .	Расчёт переходных процессов в цепи постоянного тока igorrr37 16.01.2026 / * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит переходные токи и напряжения на элементах схемы. . . .	Восстановить юзерскрипты Greasemonkey из бэкапа браузера damix 15.01.2026 Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .
Сукцессия микоризы: основная теория в виде двух уравнений. anaschu 11.01.2026 https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/	WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .	Почему дизайн решает? Neotwalker 09.01.2026 В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .

@Vanconts 4 / 3 / 1 Регистрация: 08.08.2019 Сообщений: 238

	Как обойти защиту OLX? 11.09.2019, 14:37. Показов 3626. Ответов 7 Метки нет (Все метки) Делаю get запрос на olx и получаю ошибку что с моего IP была зафиксирована подозрительная активность и тд хотя если открыть страницу через браузер то все работает,я так понимаю у ОLX стоит защита,как ее обойти? Добавлено через 41 минуту Вот была похожая проблема - Как обойти защиту сайта OLX? только меня интересует можно ли как-то это сделать без использования различных программ? 0

@obivan Падаван С++ 447 / 261 / 89 Регистрация: 11.11.2014 Сообщений: 916
	11.09.2019, 14:59
	Vanconts, вам просто так скорее не дадут пользоватmся их api нужен токен или что то подобное обычно, а за это просят денежку, когда у меня была похожая задача делал через qt, по сути загружал страницу и весь js, выполнял страницу и потом парсил это по сути то что вам и предлагают.В qt для этого можно использовать qwebengine или qwebkit,но немного не понятно ваше без использования различных программ, если заинтересованы свяжитесь с создателями сайта и возможно за какую то плату они дадут вам доступ к api это самый легкий способ 0

@Vanconts 4 / 3 / 1 Регистрация: 08.08.2019 Сообщений: 238
	11.09.2019, 15:20 [ТС]
	obivan, каким образом тогда работает wget? 0

Как обойти защиту OLX?

Решение