Как пропарсить домен с самого начала и до последней ссылки?

@melihovgv · Регистрация: 12.06.2011

Студворк — интернет-сервис помощи студентам

Как пропарсить домен с самого начала и до последней ссылки?
к примеру
http://site.ru/index.php
http://site.ru/index1.php
http://site.ru/index2.php/index1.php
http://site.ru/index.php/index2.php/index1.php
http://site.ru/index.php/index... index1.php

@gta4kv · 18.11.2011, 22:37

походу парсинга собирать с каждой страницы локальные ссылки, отмечать страницы как парсеные / не парсеные и так, пока не кончатся те самые "не парсеные"

@melihovgv · 18.11.2011, 22:46 **[ТС]**

Мини пример можете показать?

@gta4kv · 18.11.2011, 22:49

Пример чего? Как парсите страницу обычно, так и делайте.. Просто все ссылки вытаскиваете которые ведут на тот же домен.

@melihovgv · 18.11.2011, 22:58 **[ТС]**

PHP
1
2
3
4
5
6
7
8
9
10
11
12
 $url="http://blokart.su";
  $cont=file_get_contents($url);
 
 
  $tag_in="Каталог";
  $tag_out='Полезная информация';
  $position=strpos($cont,$tag_in);//nahodit nachalo
  $cont=substr($cont,$position);
  $position=strpos($cont,$tag_out);
  $cont=substr($cont,0,$position);
 
  echo $cont;

Как сделать цикл с рекурсией?

@duhon · 24.11.2011, 15:46

Сообщение от melihovgv

PHP
1
2
3
4
5
6
7
8
9
10
11
12
 $url="http://blokart.su";
  $cont=file_get_contents($url);
 
 
  $tag_in="Каталог";
  $tag_out='Полезная информация';
  $position=strpos($cont,$tag_in);//nahodit nachalo
  $cont=substr($cont,$position);
  $position=strpos($cont,$tag_out);
  $cont=substr($cont,0,$position);
 
  echo $cont;

Как сделать цикл с рекурсией?

не совсем понял что тебе надо, может такое.

PHP
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
url="http://blokart.su";
print_r(pars($url));
function pars($curent_url){
  //получить сирые данные
  $cont=file_get_contents($curent_url);
  //отфильтровать контент
  $tag_in="Каталог";
  $tag_out='Полезная информация';
  $position=strpos($cont,$tag_in);//nahodit nachalo
  $cont=substr($cont,$position);
  $position=strpos($cont,$tag_out);
  $cont=substr($cont,0,$position);
  //найти ссылки в каталоге
  preg_match_all('%http://(?:.+/)+%s', $cont, $urls);
  foreach($urls[0] as $url){
    $new_urls = pars($url);
  }
  return $urls+$new_urls;
}

Написал за 5 минут так что думай то тебе нужно или нет.

@melihovgv · 24.11.2011, 16:42 **[ТС]**

Решено.Кому интересно пишите на почту.

@F(r)an!k · 05.12.2011, 12:34

Очень интересно! Как раз хотел такую же тему создать!
Две недели уже бъюсь!
Какая у тебя почта???

@melihovgv · 05.12.2011, 13:15 **[ТС]**

gmelihov@bk.ru

@melihovgv · 01.02.2012, 00:32 **[ТС]**

Прикрепляю архив с наработками.
Кто знаком с пхп,закидывайте на денвер и смотрите.
Интуитивно разберетесь.

Новые блоги и статьи Все статьи Все блоги /
Как дизайн сайта влияет на конверсию: 7 решений, которые реально повышают заявки Neotwalker 08.03.2026 Многие до сих пор воспринимают дизайн сайта как “красивую оболочку”. На практике всё иначе: дизайн напрямую влияет на то, оставит человек заявку или уйдёт через несколько секунд. Даже если у вас. . .	Модульная разработка через nuget packages DevAlt 07.03.2026 Сложившийся в . Net-среде способ разработки чаще всего предполагает монорепозиторий в котором находятся все исходники. При создании нового решения, мы просто добавляем нужные проекты и имеем. . .	Модульный подход на примере F# DevAlt 06.03.2026 В блоге дяди Боба наткнулся на такое определение: В этой книге («Подход, основанный на вариантах использования») Ивар утверждает, что архитектура программного обеспечения — это структуры,. . .	Управление камерой с помощью скрипта OrbitControls.js на Three.js: Вращение, зум и панорамирование 8Observer8 05.03.2026 Содержание блога Финальная демка в браузере работает на Desktop и мобильных браузерах. Итоговый код: orbit-controls-threejs-js. zip. Сканируйте QR-код на мобильном. Вращайте камеру одним пальцем,. . .
SDL3 для Web (WebAssembly): Синхронизация спрайтов SDL3 и тел Box2D 8Observer8 04.03.2026 Содержание блога Финальная демка в браузере. Итоговый код: finish-sync-physics-sprites-sdl3-c. zip На первой гифке отладочные линии отключены, а на второй включены:. . .	SDL3 для Web (WebAssembly): Идентификация объектов на Box2D v3 - использование userData и событий коллизий 8Observer8 02.03.2026 Содержание блога Финальная демка в браузере. Итоговый код: finish-collision-events-sdl3-c. zip Сканируйте QR-код на мобильном и вы увидите, что появится джойстик для управления главным героем. . . .	Реалии Hrethgir 01.03.2026 Нет, я не закончил до сих пор симулятор. Эта задача сложнее. Не получилось уйти в плавсостав, но оно и к лучшему, возможно. Точнее получалось - но сварщиком в палубную команду, а это значит, в моём. . .	Ритм жизни kumehtar 27.02.2026 Иногда приходится жить в ритме, где дел становится всё больше, а вовлечения в происходящее — всё меньше. Плотный график не даёт вниманию закрепиться ни на одном событии. Утро начинается с быстрых,. . .

@melihovgv 16 / 15 / 4 Регистрация: 12.06.2011 Сообщений: 842

	Как пропарсить домен с самого начала и до последней ссылки? 18.11.2011, 19:25. Показов 1635. Ответов 9 Метки нет (Все метки) Как пропарсить домен с самого начала и до последней ссылки? к примеру http://site.ru/index.php http://site.ru/index1.php http://site.ru/index2.php/index1.php http://site.ru/index.php/index2.php/index1.php http://site.ru/index.php/index... index1.php 0

@gta4kv 6 / 6 / 2 Регистрация: 08.11.2011 Сообщений: 23
	18.11.2011, 22:37
	походу парсинга собирать с каждой страницы локальные ссылки, отмечать страницы как парсеные / не парсеные и так, пока не кончатся те самые "не парсеные" 0

@melihovgv 16 / 15 / 4 Регистрация: 12.06.2011 Сообщений: 842
	18.11.2011, 22:46 [ТС]
	Мини пример можете показать? 0

@gta4kv 6 / 6 / 2 Регистрация: 08.11.2011 Сообщений: 23
	18.11.2011, 22:49
	Пример чего? Как парсите страницу обычно, так и делайте.. Просто все ссылки вытаскиваете которые ведут на тот же домен. 0

@melihovgv 16 / 15 / 4 Регистрация: 12.06.2011 Сообщений: 842
	24.11.2011, 16:42 [ТС]
	Решено.Кому интересно пишите на почту. 0

@F(r)an!k 31 / 31 / 4 Регистрация: 12.03.2010 Сообщений: 185
	05.12.2011, 12:34
	Очень интересно! Как раз хотел такую же тему создать! Две недели уже бъюсь! Какая у тебя почта??? 0

@melihovgv 16 / 15 / 4 Регистрация: 12.06.2011 Сообщений: 842
	05.12.2011, 13:15 [ТС]
	gmelihov@bk.ru 0