Рекурсивный сбор ссылок

@F(r)an!k · Регистрация: 12.03.2010

Студворк — интернет-сервис помощи студентам

Задача такая

PHP
1
2
$url = 'http://www.site.ru';
$pages = $this->get_links($url);

Возвращает массив

PHP
1
2
3
4
5
['http://www.site.ru'] => array(
  [0] => '/link1',
  [1] => '/link2',
  [2] => '/link3
)

Как сделать рекурсивный обход ссылок?

Добавлено через 36 минут
для анализа ссыки я использую функцию parse_url($url)
для получения контента страницы и использую функцию file_get_contents($url)
для ищу ссылки в тексте по регулярному выражению

PHP
1
2
$pattern = '#<a\s+href\s*=\s*["\']?([^\s>]+?)["\']?[.]*?>(.*?)</a>#i';
preg_match_all($pattern2, $content, $matches);

Добавлено через 19 секунд
Проблема в том чтобы делать все эти операции рекурсивно, при этом не парситьодни и те же страницы два раза.

Vovan-VE · 05.12.2011, 17:14

F(r)an!k, Складывайте ссылки в БД в таблицу, где эти ссылки будут уникальными ключами (чтобы в принципе нельзя было добавить в таблицу одну и ту же ссылку несколько раз). Естественно, важно помнить, что /l%3Сnk - это то же самое, что /link , и ?f%6Fo=bar - то же самое, что ?foo=bar . Частичное раскодирования в сторону нормализации (избавление от избыточного кодирования) - это весьма не простая задача, как может показаться на первый взгляд.

Далее вместо рекурсии берем из таблицы очередную непройденную ссылку (т.е. ссылки при добавлении надо помечать непройденными и после похождения отмечать пройденными) и ищем по ней новые ссылки.

За один запуск не стОит пытаться отыскать сразу все ссылки на всех страницах. Следует за один запуск проходить одну-несколько страниц. Завершение работы происходит тогда, когда в базе все ссылки станут пройденными.

Новые блоги и статьи Все статьи Все блоги /
PhpStorm 2025.3: WSL Terminal всегда стартует в ~ and_y87 14.12.2025 PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .	Access VikBal 11.12.2025 Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.	Новый ноутбук volvo 07.12.2025 Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro	Музыка, написанная Искусственным Интеллектом volvo 04.12.2025 Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .	От async/await к виртуальным потокам в Python IndentationError 23.11.2025 Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов Argus19 22.11.2025 Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .	Сколько Государство потратило денег на меня, обеспечивая инсулином. Programma_Boinc 20.11.2025 Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .	Ломающие изменения в C#.NStar Alpha Etyuhibosecyu 20.11.2025 Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .	Мысли в слух kumehtar 18.11.2025 Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .	Создание Single Page Application на фреймах krapotkin 16.11.2025 Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .

Vovan-VE 13210 / 6599 / 1041 Регистрация: 10.01.2008 Сообщений: 15,069
	05.12.2011, 17:14
	F(r)an!k, Складывайте ссылки в БД в таблицу, где эти ссылки будут уникальными ключами (чтобы в принципе нельзя было добавить в таблицу одну и ту же ссылку несколько раз). Естественно, важно помнить, что /l%3Сnk - это то же самое, что /link , и ?f%6Fo=bar - то же самое, что ?foo=bar . Частичное раскодирования в сторону нормализации (избавление от избыточного кодирования) - это весьма не простая задача, как может показаться на первый взгляд. Далее вместо рекурсии берем из таблицы очередную непройденную ссылку (т.е. ссылки при добавлении надо помечать непройденными и после похождения отмечать пройденными) и ищем по ней новые ссылки. За один запуск не стОит пытаться отыскать сразу все ссылки на всех страницах. Следует за один запуск проходить одну-несколько страниц. Завершение работы происходит тогда, когда в базе все ссылки станут пройденными. 1