Форум программистов, компьютерный форум, киберфорум
Python: Web
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.54/13: Рейтинг темы: голосов - 13, средняя оценка - 4.54
0 / 0 / 0
Регистрация: 07.04.2015
Сообщений: 102

Как парсить сайт с динамической подгрузкой через скрипты?

30.11.2021, 16:32. Показов 2722. Ответов 8
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Сайт: https://www.soccerstand.com/ru... ch-summary

Необходимо получить значения коэффициентов с этого сайта (1.73, 4.08, 4.92). Коэффициенты подгружаются динамически.
Я нашёл запрос по которому сайт получает эти самые коэффициенты (https://d.soccerstand.com/ru/x... _UZQNJWWl_), но при попытке перейти по ссылке вылазит ошибка: 401 Unauthorized.
Подскажите, как всё таки можно получить значения коэффициентов?

Python
1
2
3
4
5
6
import requests
from bs4 import BeautifulSoup
 
response = requests.get('https://d.soccerstand.com/ru/x/feed/df_dos_1_UZQNJWWl_')
data = response.json()
print(data)
Миниатюры
Как парсить сайт с динамической подгрузкой через скрипты?  
0
Programming
Эксперт
39485 / 9562 / 3019
Регистрация: 12.04.2006
Сообщений: 41,671
Блог
30.11.2021, 16:32
Ответы с готовыми решениями:

Чат с динамической подгрузкой
Исходный код: $get_id = Yii::$app->request->post('get_id'); $length = Yii::$app->request->post('len'); $bdmessage =...

Как парсить сайт?
Добрый день! Нужна помощь с парсингом сайта origin.com на php Контент, как я понимаю(могу и ошибаться), загружается через xml, а как...

Как парсить сайт по сессии?
Мне нужно парсить телеграм веб, но в случае, если пользователь не залогинен, меня кидает на страницу входа. Как мне создать сессию и...

8
Автоматизируй это!
Эксперт Python
 Аватар для Welemir1
7390 / 4817 / 1246
Регистрация: 30.03.2015
Сообщений: 13,663
Записей в блоге: 29
30.11.2021, 16:46
Цитата Сообщение от kalambek Посмотреть сообщение
Подскажите, как всё таки можно получить значения коэффициентов?
посмотреть какие данные туда передаются и подсунуть их.
0
0 / 0 / 0
Регистрация: 07.04.2015
Сообщений: 102
30.11.2021, 16:50  [ТС]
Welemir1, а как это реализовать посредством requests и bs4?
0
Автоматизируй это!
Эксперт Python
 Аватар для Welemir1
7390 / 4817 / 1246
Регистрация: 30.03.2015
Сообщений: 13,663
Записей в блоге: 29
30.11.2021, 16:53
kalambek, судя по вопросу ты не стал смотреть что туда уходит) Использовать просто -смотрим что нужно отправлять и отправляем реквестом.

Если не помогает то берем селениум.
0
0 / 0 / 0
Регистрация: 07.04.2015
Сообщений: 102
30.11.2021, 16:58  [ТС]
Welemir1, я вообще не понял суть ответа. На какие данные нужно смотреть и куда подсовывать?
0
Автоматизируй это!
Эксперт Python
 Аватар для Welemir1
7390 / 4817 / 1246
Регистрация: 30.03.2015
Сообщений: 13,663
Записей в блоге: 29
30.11.2021, 17:06
kalambek, а как ты нашел что он шлет запрос на
Цитата Сообщение от kalambek Посмотреть сообщение
https://d.soccerstand.com/ru/x/feed/df_dos_1_UZQNJWWl_
???

вот там же и смотреть с какими полями и с каким телом этот запрос идет и попробовать его повторить. Подсовывать в соответствующие хедеры и тело запроса реквестс.

Иначе - селениум, динамику через реквестс не попарсить.

Так понятна суь ответа?
0
0 / 0 / 0
Регистрация: 07.04.2015
Сообщений: 102
30.11.2021, 17:18  [ТС]
Welemir1, не понятна. Я этот запрос с трудом нашёл через поиск по словам в network браузера. Какие поля там за что отвечают и куда их "подсовывать" мне абсолютно неизвестно.
0
Автоматизируй это!
Эксперт Python
 Аватар для Welemir1
7390 / 4817 / 1246
Регистрация: 30.03.2015
Сообщений: 13,663
Записей в блоге: 29
30.11.2021, 17:45
kalambek, погоди, то есть ты собрался чего то там парсить не понимая как все это работая и не читая документации тех же requests?

Python
1
2
3
4
5
6
7
8
>>> import requests
>>> url = 'https://d.soccerstand.com/ru/x/feed/df_dos_1_UZQNJWWl_'
>>> user_agent='Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/15.1 Safari/605.1.15'
>>> x_fsign='SW9D1eZo'
>>> headers = {'User-Agent':user_agent, 'x-fsign':x_fsign}
>>> t=requests.get(url, headers=headers)
>>> t.text
'MX÷453¬MI÷{"453":["1.73","4.08","4.92"]}¬MJ÷{"453":["1.81","4.02","4.46"]}¬.......
1
0 / 0 / 0
Регистрация: 07.04.2015
Сообщений: 102
01.12.2021, 00:17  [ТС]
Welemir1, Спасибо! Когда ты новичок не так уж и просто найти даже в документации то, что тебе нужно.
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
inter-admin
Эксперт
29715 / 6470 / 2152
Регистрация: 06.03.2009
Сообщений: 28,500
Блог
01.12.2021, 00:17
Помогаю со студенческими работами здесь

Как парсить сайт без бана?
Есть необходимость вытаскивать расписание с сайта. Надо выкачать порядка 100 страниц. Как программно сделать так, чтобы не привлекать...

Как парсить сайт каждые n секунд?
Всем привет! Есть сайт, на котором каждые 5-10 секунд появляется текст(слова). Эти слова внутри div. У них нет name, только id. Как мне...

Как парсить сайт, защищённый ddos-guard?
При входе на сайт возникает окно "проверка браузера". При попытках парсинга появляется ошибка 403. Используется вот эта защита...

Как парсить сайт с адресом kyzylcafe.ru/menu/#!/Pitstsa на php curl phpquery
Здравствуйте, форумчане!!! Вопрос: как парсить сайт с адресом kyzylcafe.ru/menu/#!/Pitstsa с помощью php curl phpquery?

Как граббить (парсить) Yii через С#
Доброе время суток, помогите зелёному программёру, нужно граббить сайт на yii через С# , но я заткнулся в самом начале ,как передать...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
9
Ответ Создать тему
Новые блоги и статьи
Новый ноутбук
volvo 07.12.2025
Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro
Музыка, написанная Искусственным Интеллектом
volvo 04.12.2025
Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .
От async/await к виртуальным потокам в Python
IndentationError 23.11.2025
Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов
Argus19 22.11.2025
Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .
Сколько Государство потратило денег на меня, обеспечивая инсулином.
Programma_Boinc 20.11.2025
Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .
Ломающие изменения в C#.NStar Alpha
Etyuhibosecyu 20.11.2025
Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .
Мысли в слух
kumehtar 18.11.2025
Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .
Создание Single Page Application на фреймах
krapotkin 16.11.2025
Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .
Фото: Daniel Greenwood
kumehtar 13.11.2025
Расскажи мне о Мире, бродяга
kumehtar 12.11.2025
— Расскажи мне о Мире, бродяга, Ты же видел моря и метели. Как сменялись короны и стяги, Как эпохи стрелою летели. - Этот мир — это крылья и горы, Снег и пламя, любовь и тревоги, И бескрайние. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2025, CyberForum.ru