Форум программистов, компьютерный форум, киберфорум
Node.js
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.55/11: Рейтинг темы: голосов - 11, средняя оценка - 4.55
0 / 0 / 0
Регистрация: 24.11.2019
Сообщений: 31

Библиотека для парсинга js сайтов

05.07.2020, 23:03. Показов 2130. Ответов 2
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Все доброго времени суток!

Подскажите есть ли какая нибудь библиотека для парсинга сайтов которые после загрузки скелета догружается с помощью js?
Смотрел в сторону electron. Но что-то он то-ли как то криво работает, то-ли я дурак. Крутил вертел, но так и не смог добиться адекватной работы с ним.
Идеальным примером будет сайт flashscore.com т.к. он полностью на js.
На node нужно дождаться каким то образом когда сайт полностью загрузится и все js тоже и после этого спарсить что-нибудь. например список матчей.

Реально такое сделать? Подскажите примеры или куда смотреть. Спасибо.
0
Лучшие ответы (1)
IT_Exp
Эксперт
34794 / 4073 / 2104
Регистрация: 17.06.2006
Сообщений: 32,602
Блог
05.07.2020, 23:03
Ответы с готовыми решениями:

Компоненты для парсинга сайтов
Добрый день! Использую компоненты EmbeddedWB Version_14.70 для парсинга информации в сети, но данные компоненты уже давно не...

QT - класс для парсинга сайтов
Здравствуйте! Я совсем недавно начал изучать QT. Раньше изучал только С++. Сейчас стоит задача написать приложение, которое будет парсить...

Методики для парсинга сайтов
Есть сайт где ежеминутно ( а иногда и раньше ) обновляется некоторая инфа. API конечно же не предоставляет. Подскажите методики как...

2
Эксперт JS
 Аватар для Iverycool
1586 / 796 / 362
Регистрация: 01.02.2019
Сообщений: 1,047
05.07.2020, 23:59
Лучший ответ Сообщение было отмечено prometey как решение

Решение

prometey, плохо искали
Самому сделать апи для парсинга на electron можно, но лучше воспользоваться готовыми решением - nightmare.
Также есть решения не на electron: puppeteer, selenium, phantom, zombie и тд.

Вот кстати прекрасная серия статей, прочитав её, можно считать себя junior-парсером https://habr.com/ru/post/301426/.
Вот тоже хорошая статья, от ruvds - https://habr.com/ru/company/ruvds/blog/341348/
1
0 / 0 / 0
Регистрация: 24.11.2019
Сообщений: 31
06.07.2020, 10:47  [ТС]
Очень полезная информация. Спасибо большое. Буду изучать.
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
BasicMan
Эксперт
29316 / 5623 / 2384
Регистрация: 17.02.2009
Сообщений: 30,364
Блог
06.07.2020, 10:47
Помогаю со студенческими работами здесь

Библиотека для xml парсинга
Доброго времени суток. У меня появилась необходимость чтения xml из потока (файлы будут находится на другой машине). Библиотеки,...

Какой язык выбрать для парсинга сайтов?
Пишу парсер сайта на питоне (вытаскиваю данные со страниц, которые генерятся с js, обрабатываю их, делаю различные арифметические...

Подскажите набор инструментов для парсинга сайтов
Сайты разные бывают, говорят, защита с капчей, подгрузка элементов js, сайты с регистрацией, сайты, парсинг которых только через прокси...

Технологии написания сайта/сервиса на php для парсинга сайтов
Сразу вопрос: с помощью каких технологий можно реализовать пункты описанные ниже? Я начитался в интернетах о pthreads, ajax, comet, web...

Справочник по phpQuery или другой простой способ парсинга сайтов
Озадачился я парсингом одного сайта наиболее простым для новичка способом: Строковый поиск - топорный. Регулярки: 1) нужно часто ими...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
3
Ответ Создать тему
Новые блоги и статьи
http://iceja.net/ математические сервисы
iceja 20.01.2026
Обновила свой сайт http:/ / iceja. net/ , приделала Fast Fourier Transform экстраполяцию сигналов. Однако предсказывает далеко не каждый сигнал (см ограничения http:/ / iceja. net/ fourier/ docs ). Также. . .
http://iceja.net/ сервер решения полиномов
iceja 18.01.2026
Выкатила http:/ / iceja. net/ сервер решения полиномов (находит действительные корни полиномов методом Штурма). На сайте документация по API, но скажу прямо VPS слабенький и 200 000 полиномов. . .
Расчёт переходных процессов в цепи постоянного тока
igorrr37 16.01.2026
/ * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит переходные токи и напряжения на элементах схемы. . . .
Восстановить юзерскрипты Greasemonkey из бэкапа браузера
damix 15.01.2026
Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .
Сукцессия микоризы: основная теория в виде двух уравнений.
anaschu 11.01.2026
https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
WordPad для Windows 11
Jel 10.01.2026
WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .
Classic Notepad for Windows 11
Jel 10.01.2026
Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .
Почему дизайн решает?
Neotwalker 09.01.2026
В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru