Форум программистов, компьютерный форум, киберфорум
PHP для начинающих
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.89/19: Рейтинг темы: голосов - 19, средняя оценка - 4.89
0 / 0 / 0
Регистрация: 18.06.2009
Сообщений: 171

Написание своего web-робота на PHP.

20.04.2011, 12:44. Показов 3863. Ответов 4
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Я знаю каким образом формируются ссылки на одном сайте. Их там порядка полутора миллиона. Но мне нужно закачать из них только некоторые. Я думаю их будет порядка 200 тыс.
Вопрос: как написать на PHP скрипт, который будет заходить по ссылке, АНАЛИЗИРОВАТЬ КОНТЕНТ и брать или не брать страничку.
0
cpp_developer
Эксперт
20123 / 5690 / 1417
Регистрация: 09.04.2010
Сообщений: 22,546
Блог
20.04.2011, 12:44
Ответы с готовыми решениями:

Написание своего робота для торговли на биржах криптовалют
Доброго времени суток уважаемые господа. Хочу написать своего робота для торговли на биржах криптовалют с помощью языка C++. У меня...

Написание своего движка
Здравствуйте, я собрался писать свой движок. Как и что осуществить я знаю и уже продумал. Но боюсь что сайт будет уязвим. На что...

Написание своего форума
Существуют ли книги , или статьи , которые в целом описывают проблемы данного типа и собственно сам процесс?

4
86 / 62 / 69
Регистрация: 15.03.2007
Сообщений: 6,903
20.04.2011, 13:04
В чем именно проблема?
В цикле качаешь содержимое ссылки в строку с помощью fopen или curl, анализируешь полученный html и решаешь что с ним делать дальше. Раз ссылок так много, то запускать такой скрипт лучше из командной строки, а не из браузера.
0
0 / 0 / 0
Регистрация: 19.02.2010
Сообщений: 9
20.04.2011, 13:52
А в чём разница? и как запустить пхп из командной строки?
0
0 / 0 / 0
Регистрация: 18.06.2009
Сообщений: 171
20.04.2011, 14:30  [ТС]
спасибо. я попробую
0
86 / 62 / 69
Регистрация: 15.03.2007
Сообщений: 6,903
20.04.2011, 14:33
> А в чём разница?
В том что при запуске через браузер на скрипт распространяется лимит времени исполнения. Я знаю, что его можно увеличить через set_time_limit и ignore_user_abort, но это не подходяший случай для них, по моему.

> и как запустить пхп из командной строки?
php.exe имя_файла
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
raxper
Эксперт
30234 / 6612 / 1498
Регистрация: 28.12.2010
Сообщений: 21,154
Блог
20.04.2011, 14:33
Помогаю со студенческими работами здесь

Написание своего компонента?
Здравствуйте друзья. -------------------- Как написать свой компонент для VS2008 на базе какого либо компонента, дабы улутшить его...

Написание своего клиента VK
Доброго времени суток. С недавнего времени начал изучать разработку android приложений, пришла идея попробовать сделать свой клиент для...

Написание своего jQuery плагина
Добрый день! Посоветуйте, какие собственные (полезные) плагины можно написать в процессе изучения jQuery ? Интересуют конкретные темы.

Написание своего регулярного выражения
Здравствуйте! Подскажите, пожалуйста, как написать регулярное выражение. Оно должно делать следующее: Допустим есть поисковое слово...

Написание своего ПО для смарт-часов
Доброго вечера. Не нашёл более подходящего раздела поэтому напишу здесь. Хотелось бы знать, есть ли возможность написания своих программ...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
5
Ответ Создать тему
Новые блоги и статьи
SDL3 для Web (WebAssembly): Реализация движения на Box2D v3 - трение и коллизии с повёрнутыми стенами
8Observer8 20.02.2026
Содержание блога Box2D позволяет легко создать главного героя, который не проходит сквозь стены и перемещается с заданным трением о препятствия, которые можно располагать под углом, как верхнее. . .
Конвертировать закладки radiotray-ng в m3u-плейлист
damix 19.02.2026
Это можно сделать скриптом для PowerShell. Использование . \СonvertRadiotrayToM3U. ps1 <path_to_bookmarks. json> Рядом с файлом bookmarks. json появится файл bookmarks. m3u с результатом. # Check if. . .
Семь CDC на одном интерфейсе: 5 U[S]ARTов, 1 CAN и 1 SSI
Eddy_Em 18.02.2026
Постепенно допиливаю свою "многоинтерфейсную плату". Выглядит вот так: https:/ / www. cyberforum. ru/ blog_attachment. php?attachmentid=11617&stc=1&d=1771445347 Основана на STM32F303RBT6. На борту пять. . .
Камера Toupcam IUA500KMA
Eddy_Em 12.02.2026
Т. к. у всяких "хикроботов" слишком уж мелкий пиксель, для подсмотра в ESPriF они вообще плохо годятся: уже 14 величину можно рассмотреть еле-еле лишь на экспозициях под 3 секунды (а то и больше),. . .
И ясному Солнцу
zbw 12.02.2026
И ясному Солнцу, и светлой Луне. В мире покоя нет и люди не могут жить в тишине. А жить им немного лет.
«Знание-Сила»
zbw 12.02.2026
«Знание-Сила» «Время-Деньги» «Деньги -Пуля»
SDL3 для Web (WebAssembly): Подключение Box2D v3, физика и отрисовка коллайдеров
8Observer8 12.02.2026
Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами и вызывать обработчики событий столкновения. . . .
SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL_LoadPNG (без SDL3_image)
8Observer8 11.02.2026
Содержание блога Библиотека SDL3 содержит встроенные инструменты для базовой работы с изображениями - без использования библиотеки SDL3_image. Пошагово создадим проект для загрузки изображения. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru