парсинг сайтов

@freework · Регистрация: 31.10.2013

Студворк — интернет-сервис помощи студентам

Здравствуйте форумчане, у меня вопрос,к примеру есть сайт wday.ru, мне нужно спарсить все новости во всех разделах ../moda-shopping/.. и т.д. С одной страницы я знаю как это сделать, а вот с одного раздела уже нет. Какой нужно написать цикл, чтобы перебрать все ссылки разделов и новостей в них.

@вандал · 31.10.2013, 15:48

Попробую предположить что вам поможет curl

@freework · 31.10.2013, 18:29 **[ТС]**

хотелось бы чего нибудь конкретнее, нужно считать все ссылки типа - главная/раздел_1/статья_1 до главная/раздел_n/статья_n..

@your_tremor · 31.10.2013, 18:55

PHP
1
2
3
4
5
if (preg_match_all('~<(a|img)(.*)(href\s*=\s*|src\s*=\s*)[\'"](.*)[\'"]~siuU', $page_text, $matches)) {
      foreach ($matches[4] as $buf) {
        $result[] = $buf;
      }
    }

@freework · 31.10.2013, 23:09 **[ТС]**

я так понимаю он выведет все ссылки и изображения на одной странице (например главной)? Мне нужно например с помощью библиотеки simple_html_dom получить все страницы на сайте.. т.е.

PHP
1
2
require_once('simple_html_dom.php');
$html = file_get_html('wday.ru'); //но я вытащу только одну страницу, а надо все, где есть новости..

Новые блоги и статьи Все статьи Все блоги /
PhpStorm 2025.3: WSL Terminal всегда стартует в ~ and_y87 14.12.2025 PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .	Как объединить две одинаковые БД Access с разными данными VikBal 11.12.2025 Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.	Новый ноутбук volvo 07.12.2025 Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro	Музыка, написанная Искусственным Интеллектом volvo 04.12.2025 Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .	От async/await к виртуальным потокам в Python IndentationError 23.11.2025 Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов Argus19 22.11.2025 Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .	Сколько Государство потратило денег на меня, обеспечивая инсулином. Programma_Boinc 20.11.2025 Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .	Ломающие изменения в C#.NStar Alpha Etyuhibosecyu 20.11.2025 Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .	Мысли в слух kumehtar 18.11.2025 Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .	Создание Single Page Application на фреймах krapotkin 16.11.2025 Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .

@freework 0 / 0 / 0 Регистрация: 31.10.2013 Сообщений: 3

	парсинг сайтов 31.10.2013, 14:16. Показов 1088. Ответов 4 Метки нет (Все метки) Здравствуйте форумчане, у меня вопрос,к примеру есть сайт wday.ru, мне нужно спарсить все новости во всех разделах ../moda-shopping/.. и т.д. С одной страницы я знаю как это сделать, а вот с одного раздела уже нет. Какой нужно написать цикл, чтобы перебрать все ссылки разделов и новостей в них. 0

@вандал 127 / 127 / 25 Регистрация: 20.11.2009 Сообщений: 498
	31.10.2013, 15:48
	Попробую предположить что вам поможет curl 0

@freework 0 / 0 / 0 Регистрация: 31.10.2013 Сообщений: 3
	31.10.2013, 18:29 [ТС]
	хотелось бы чего нибудь конкретнее, нужно считать все ссылки типа - главная/раздел_1/статья_1 до главная/раздел_n/статья_n.. 0