Парсинг страниц с python3

@Fudthhh · Регистрация: 21.02.2017

Студворк — интернет-сервис помощи студентам

Все в целях обучения. Есть страница, не могу понять как получить содержимое класса.

Python
1
2
3
4
5
6
7
browser = mechanicalsoup.Browser()
 
page = browser.get(#SITE#) 
    
obj = page.soup.find('div', {'class' : 'col s12 l6 minHeightOnePx'})
 
#obj = page.soup.find(id='listip')

Получается найти только этот класс, все остальные попытки не приносят успеха, если я правильно понял, то нужно попасть внутрь этого класса. Прошу вашей помощи.

@Welemir1 · 20.06.2018, 09:41

не понял почему используешь механикалсоуп а не BS4, который у него внутри, но ладно
чтобы найти что-то на странице можно использовать CSS селектор, для твоего элемента вроде как '#listip pre', но это если это единственный тег pre в блоке.
А вообще всегда полезно документацию изучить

Сообщение от Fudthhh

не могу понять как получить содержимое класса.

что именно надо получить?

@Fudthhh · 20.06.2018, 09:48 **[ТС]**

Сообщение от Welemir1

что именно надо получить?

В pre находится обыный текст. Вот именно его нужно получить.

Добавлено через 1 минуту

Сообщение от Welemir1

А вообще всегда полезно документацию изучить

Почитал, но я практик, и теорию пока что перевариваю, занялся этим буквально на днях, и так как я прошерстил литературу и не смог понять, решил, что вы добрые люди поделитесь опытом.

@Welemir1 · 20.06.2018, 09:51

Сообщение от Fudthhh

и так как я прошерстил литературу и не смог понять

какую литературу -просто открой их мануал на сайте)
получи вот этот элемент по цсс селектору и просто вызови на нем метод текст. правда он есть у beautiful soup у механикал скорее всего тоже есть аналог

@alex925 · 24.06.2018, 16:32

Fudthhh, задача решается в пару строк

Python
1
2
3
4
5
6
7
import requests
import lxml.html as html
 
resp = requests.get("https://www.cyberforum.ru/python/thread2266797.html").text
parser = html.fromstring(resp)
data = parser.cssselect("#td_post_12489728 > h1 > a")
print(data[0].text)

@FilArt97 · 27.06.2018, 06:18

Используй Scraper, bs4 медленный

Новые блоги и статьи Все статьи Все блоги /
http://iceja.net/ математические сервисы iceja 20.01.2026 Обновила свой сайт http:/ / iceja. net/ , приделала Fast Fourier Transform экстраполяцию сигналов. Однако предсказывает далеко не каждый сигнал (см ограничения http:/ / iceja. net/ fourier/ docs ). Также. . .	http://iceja.net/ сервер решения полиномов iceja 18.01.2026 Выкатила http:/ / iceja. net/ сервер решения полиномов (находит действительные корни полиномов методом Штурма). На сайте документация по API, но скажу прямо VPS слабенький и 200 000 полиномов. . .	Расчёт переходных процессов в цепи постоянного тока igorrr37 16.01.2026 / * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит: токи, напряжения и их 1 и 2 производные при t = 0;. . .	Восстановить юзерскрипты Greasemonkey из бэкапа браузера damix 15.01.2026 Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .
Сукцессия микоризы: основная теория в виде двух уравнений. anaschu 11.01.2026 https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/	WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .	Почему дизайн решает? Neotwalker 09.01.2026 В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .

@FilArt97 37 / 36 / 16 Регистрация: 11.03.2018 Сообщений: 95
	27.06.2018, 06:18
	Используй Scraper, bs4 медленный 0