Multiproccesing в парсинге сайта

@Семен Семены4 · Регистрация: 04.03.2018

Студворк — интернет-сервис помощи студентам

Доброго времени суток, господа!
Требуется помощь в задании: нужно написать многопоточный/многопроцессный парсер сайта, а точнее, построить его карту. Метод моего решения: построил небинарное дерево, корнем которого является главная страница, а детьми внутренние ссылки, например: корень - https://abc.ru, дети - /d/, /e/, /f/, и у каждой из дочерних вершин могут быть свои дети. Обойти такую структуру мне удалось с помощью очереди. Вопрос: как можно сюда добавить многопроцессность/многопоточность?

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
    
    def __init__(self, text = None, parent = None):
        self.text = text
        self.child = []
        self.par = parent
 
    def runner(self):
        q = Queue()
        q.put(self)
        already_done = set()
        while not q.empty():
            p = q.get()
            if p.text not in already_done:
                already_done.add(p.text)
                print(p.text)
                p.create_map()
            for i in p.child: q.put(i)

@Lekks · 09.06.2022, 09:48

Например, парсинг каждой новой ветки запускать в отдельном потоке. От корня отходит три ноды - запускаем три потока и т.д.

@Fudthhh · 09.06.2022, 13:40

Семен Семены4,

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
import time
import random
import threading
 
 
 
class Parser(threading.Thread):
 
    def __init__(self, url: str) -> None:
        threading.Thread.__init__(self, name=url)
        self.url = url
 
    def run(self) -> None:
        time.sleep(random.randint(1, 5))
        print(f"Url: [{self.url}] is parsed")
        for i in range(random.randint(0, 2)):
            Parser(f"{self.url}/{i}").start()
 
 
Parser("https://www.parser.ru").start()

Code
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
Url: [https://www.parser.ru] is parsed
Url: [https://www.parser.ru/0] is parsed
Url: [https://www.parser.ru/0/0] is parsed
Url: [https://www.parser.ru/0/0/0] is parsed
Url: [https://www.parser.ru/0/0/0/0] is parsed
Url: [https://www.parser.ru/0/0/0/1] is parsed
Url: [https://www.parser.ru/0/0/0/0/1] is parsed
Url: [https://www.parser.ru/0/0/0/0/0] is parsed
Url: [https://www.parser.ru/0/0/0/0/1/0] is parsed
Url: [https://www.parser.ru/0/0/0/0/1/1] is parsed
Url: [https://www.parser.ru/0/0/0/0/1/0/0] is parsed
Url: [https://www.parser.ru/0/0/0/0/1/0/1] is parsed
Url: [https://www.parser.ru/0/0/0/0/1/0/0/0] is parsed
Url: [https://www.parser.ru/0/0/0/0/1/0/1/0] is parsed
Url: [https://www.parser.ru/0/0/0/0/1/0/0/0/0] is parsed

Новые блоги и статьи Все статьи Все блоги /
Расчёт переходных процессов в цепи постоянного тока igorrr37 16.01.2026 / * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит токи на L и напряжения на C в установ. режимах до и. . .	Восстановить юзерскрипты Greasemonkey из бэкапа браузера damix 15.01.2026 Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .	Изучаю kubernetes lagorue 13.01.2026 А пригодятся-ли мне знания kubernetes в России?	Сукцессия микоризы: основная теория в виде двух уравнений. anaschu 11.01.2026 https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .	Почему дизайн решает? Neotwalker 09.01.2026 В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .	Модель микоризы: классовый агентный подход 3 anaschu 06.01.2026 aa0a7f55b50dd51c5ec569d2d10c54f6/ O1rJuneU_ls https:/ / vkvideo. ru/ video-115721503_456239114

@Lekks 243 / 178 / 73 Регистрация: 17.10.2018 Сообщений: 749
	09.06.2022, 09:48
	Например, парсинг каждой новой ветки запускать в отдельном потоке. От корня отходит три ноды - запускаем три потока и т.д. 0