Форум программистов, компьютерный форум, киберфорум
Python: Web
Войти
Регистрация
Восстановить пароль
Карта форума Темы раздела Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.60/15: Рейтинг темы: голосов - 15, средняя оценка - 4.60
0 / 0 / 0
Регистрация: 29.09.2020
Сообщений: 2
1

Подделать User-Agent

01.10.2020, 22:38. Показов 2873. Ответов 2

Author24 — интернет-сервис помощи студентам
Как подделать User-Agent при парсинге сайта?

Проблема такова:
Нужно обходить капчу при парсинге сайта. Я просто забираю информацию об обьекте, но если много раз переходить по ссылке, сайт начинает что-то подозревать и выкидывать капчу. Нужно при каждом запросе посылать сайту ложный User-Agent.
Если знаете сайт или сервис, где можно брать рабочие агенты, сообщите.

При парсинге применяю bs4 и urllib3.
0
Лучшие ответы (1)
Programming
Эксперт
94731 / 64177 / 26122
Регистрация: 12.04.2006
Сообщений: 116,782
01.10.2020, 22:38
Ответы с готовыми решениями:

Парсинг. Как задать User-Agent
Для парсера на python как то можно задать user-agent? А то будет netbeans наверное или еще что то.

User Agent
Как написать программу которая будет изменять User Agent ?

User Agent
Прошу прощения, если такая тема уже была. Пишу браузер с ипользованием TWebBrowser. При входе, к...

User agent
получаю данные с переменной $_SERVER вот такие к примеру Mozilla/5.0 (Linux; Android 4.4.2;...

2
Автоматизируй это!
Эксперт Python
7107 / 4610 / 1215
Регистрация: 30.03.2015
Сообщений: 13,236
Записей в блоге: 29
02.10.2020, 07:09 2
Tohak, какие еще рабочие агенты??? это просто инфа мол я с такого то браузера. А ты не думаешь что сайт еще видит ip и прочую инфу от тебя?

User-Agent передается заголовком при запросе, вон в урллиб используй. Правда думаю что не помжет, просто отправляй меньше запросов.

Судя по тому что используешь урллиб -какой то древний мануал нашел, когда еще весь мир не использовал реквестс?
0
Эксперт Python
5418 / 3842 / 1214
Регистрация: 28.10.2013
Сообщений: 9,554
Записей в блоге: 1
04.10.2020, 20:56 3
Лучший ответ Сообщение было отмечено Tohak как решение

Решение

Цитата Сообщение от Tohak Посмотреть сообщение
где можно брать рабочие агенты, сообщите.
Где взять не скажу - слишком секретно.
Но могу по секрету дать один. Держи. Никому не показывай. Этот спойлер открывается только для тебя:
Кликните здесь для просмотра всего текста
James Bond/007 (Aston Martin DB5/1963; Ford Mustang Mach 1/1971; Lotus Esprit S1/1976; Rolls-Royce Silver Cloud II/1962; U; en) Sean Connery/25.08.1930 Version/1.0

Это очень крутой юзер-агент. Никакие капчи его не палят.
3
04.10.2020, 20:56
IT_Exp
Эксперт
87844 / 49110 / 22898
Регистрация: 17.06.2006
Сообщений: 92,604
04.10.2020, 20:56
Помогаю со студенческими работами здесь

user-agent
кто нибудь может дать строку user-agent'a от любого браузера работающего под WinXP?

User agent stylesheet
имеется <div class="menu"> <ul class="nav"> <li><a...

User-Agent в Webbrowser
Почему не правильно изменяется user-agent в webbrowser? procedure TForm1.FormCreate(Sender:...

Пустой user-agent
Есть самописный скрипт для отслеживания посещений сайта. В базу сохраняются некоторые данные,...

curl и user agent
Добрый день, интересует такой вопрос, допустим есть вот такой код: $url="http://адрес сайта";...

User Agent Indy
Народ как вообще поставить юезр агент ? (поставил так Yabrowser/14.12.2125.10034 ) Все равно...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
3
Ответ Создать тему
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2024, CyberForum.ru