Поиск элемента на сайте с Selenium

@Zealot92 · Регистрация: 16.10.2018

Студворк — интернет-сервис помощи студентам

Всем добрый день, есть такая задача. Пытаюсь спарсить табличку с сайта Минпромторга ""
Написал такой вот код (см.ниже, тапками не кидайте, я начинающий питонист). Пытаюсь прокликать по каждой странице таблицы и сгрузить данные в пандас датафрейм, проблема в том код не работает дальше 6 страницы, тк в классе "dx-pages" всего 6 значений, есть ли адекватный способ для перебора номеров страниц в данном случае? + мб кто-то знает как сначала вывести топ 100 значений, а потом работать с таблицей. Написал

Python
1
2
fld = driver.find_element(By.XPATH,"/html/body/div[1]/main/section/div/div/div/div[11]/div[1]/div[5]") # топ-100
#fld.click()

но таблица выгружается все равно по 10 значений
Вот код для постраничной итерации

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
url = 'https://gisp.gov.ru/pp719v2/pub/prod/'
driver.get(url) 
 
pg_list = []
pages = driver.find_elements(By.TAG_NAME, "div.dx-pages div")
for page in pages:
    try:
        pg_list.append(int(page.text))
    except:
        continue
pg_list
for pg in range(min(pg_list)+1,20):
    pg_link = driver.find_element(By.XPATH, "/html/body/div[1]/main/section/div/div/div/div[11]/div[2]/div[" + str(pg) + "]")
    pg_link.click()
    my_page = BeautifulSoup(driver.page_source)
    head_table = my_page.find_all('table')[0]
    head_rows = head_table.find_all('tr')[1]
    table = my_page.find_all('table')[1]
    rows = table.find_all('tr')
    d = dict()
    for i in range(7):
        col = []
        key = head_rows.find_all('td')[i].get_text().strip()
        #col.append(key)
        for row in rows[0:len(rows)-1]:
            r = row.find_all('td')
            col.append(r[i].get_text().strip())
        d[key] = col
    df = pd.DataFrame(d)
    table_all = pd.concat([table_all, df])
    sleep(3)
table_all.to_excel('Минпромторг.xlsx')

@Skryp · 31.01.2022, 20:30

Используйте requests post запросы, изменяйте параметр data (подпункт skip) на нужный и получайте готовый json файл со списком из 100 новых значений.

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
import requests
import json
 
headers = {
    'Connection': 'keep-alive',
    'sec-ch-ua': '" Not;A Brand";v="99", "Google Chrome";v="97", "Chromium";v="97"',
    'Accept': 'application/json, text/javascript, */*; q=0.01',
    'Content-Type': 'application/json',
    'X-Requested-With': 'XMLHttpRequest',
    'sec-ch-ua-mobile': '?0',
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/97.0.4692.99 Safari/537.36',
    'sec-ch-ua-platform': '"Windows"',
    'Origin': 'https://gisp.gov.ru',
    'Sec-Fetch-Site': 'same-origin',
    'Sec-Fetch-Mode': 'cors',
    'Sec-Fetch-Dest': 'empty',
    'Referer': 'https://gisp.gov.ru/pp719v2/pub/prod/',
    'Accept-Language': 'ru-RU,ru;q=0.9,en-US;q=0.8,en;q=0.7',
}
 
# первая страница по 100
# data = '{"opt":{"sort":null,"requireTotalCount":true,"searchOperation":"contains","searchValue":null,"skip":0,"take":100,"userData":{}}}'
# вторая страница по 100
# data = '{"opt":{"sort":null,"searchOperation":"contains","searchValue":null,"skip":100,"take":100,"userData":{}}}'
# третья страница по 100
data = '{"opt":{"sort":null,"searchOperation":"contains","searchValue":null,"skip":200,"take":100,"userData":{}}}'
 
response = requests.post('https://gisp.gov.ru/pp719v2/pub/prod/b/', headers=headers, data=data)
print(response.json())

@Zealot92 · 31.01.2022, 21:00 **[ТС]**

Спасибо, а через мой костыль это реально сделать? А то придется полностью отказаться от своего решения, а у меня это чуть ли не первый практический пример на питоне

Новые блоги и статьи Все статьи Все блоги /
SDL3 для Web (WebAssembly): Реализация движения на Box2D v3 - трение и коллизии с повёрнутыми стенами 8Observer8 20.02.2026 Содержание блога Box2D позволяет легко создать главного героя, который не проходит сквозь стены и перемещается с заданным трением о препятствия, которые можно располагать под углом, как верхнее. . .	Конвертировать закладки radiotray-ng в m3u-плейлист damix 19.02.2026 Это можно сделать скриптом для PowerShell. Использование . \СonvertRadiotrayToM3U. ps1 <path_to_bookmarks. json> Рядом с файлом bookmarks. json появится файл bookmarks. m3u с результатом. # Check if. . .	Семь CDC на одном интерфейсе: 5 U[S]ARTов, 1 CAN и 1 SSI Eddy_Em 18.02.2026 Постепенно допиливаю свою "многоинтерфейсную плату". Выглядит вот так: https:/ / www. cyberforum. ru/ blog_attachment. php?attachmentid=11617&stc=1&d=1771445347 Основана на STM32F303RBT6. На борту пять. . .	Камера Toupcam IUA500KMA Eddy_Em 12.02.2026 Т. к. у всяких "хикроботов" слишком уж мелкий пиксель, для подсмотра в ESPriF они вообще плохо годятся: уже 14 величину можно рассмотреть еле-еле лишь на экспозициях под 3 секунды (а то и больше),. . .
И ясному Солнцу zbw 12.02.2026 И ясному Солнцу, и светлой Луне. В мире покоя нет и люди не могут жить в тишине. А жить им немного лет.	«Знание-Сила» zbw 12.02.2026 «Знание-Сила» «Время-Деньги» «Деньги -Пуля»	SDL3 для Web (WebAssembly): Подключение Box2D v3, физика и отрисовка коллайдеров 8Observer8 12.02.2026 Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами и вызывать обработчики событий столкновения. . . .	SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL_LoadPNG (без SDL3_image) 8Observer8 11.02.2026 Содержание блога Библиотека SDL3 содержит встроенные инструменты для базовой работы с изображениями - без использования библиотеки SDL3_image. Пошагово создадим проект для загрузки изображения. . .

@Zealot92 1 / 1 / 0 Регистрация: 16.10.2018 Сообщений: 10
	31.01.2022, 21:00 [ТС]
	Спасибо, а через мой костыль это реально сделать? А то придется полностью отказаться от своего решения, а у меня это чуть ли не первый практический пример на питоне 0

Опции темы

Поиск элемента на сайте с Selenium

Решение