PHP получение HTML с динамической страницы

@code-n'-help · Регистрация: 08.11.2013

Студворк — интернет-сервис помощи студентам

Здравствуйте, на днях возникла такая проблема. Написал программу на C# которая через свой браузер вытаскивает со страницы HTML код, выдирает с него данные в таблице, анализирует и отправляет на FTP сервер. Все отлично. Но программа работает пока запущена на компе.
Пытаюсь написать автоматизацию с Кроном на PHP, чтобы она работала круглосуточно. Но по запросу HTML адреса страницы через ф-ю file_get_contents(...) ошибку:

PHP/HTML
1
Warning: file_get_contents([url]http://arizona-rp.com/):[/url] failed to open stream: HTTP request failed! HTTP/1.1 503 Service Temporarily Unavailable in /home/virtwww/w_fbiarizona-inf-ua_c919a141/http/index.php on line 4

Полазил почитал, сказали что скорее всего страницы загруз по динам сценарию. В коде там даже используются какие-то скрипты Vegas и т.д

У меня есть выделенный сервер, и поэтому желательно именно на PHP. Если через него нельзя подскажите как иначе. Огромная просьба описать без намеков как этого можно добиться.
Заранее спасибо!!!

@alexsamos33 · 26.06.2016, 14:15

code-n'-help, Там просто стоит защита cloudflare и через простой file_get_contents там не зайти, надо сначала пройти проверку, а для этого лучше curl использовать...
Вот как выглядит первый запрос без передачи cookie:

HTTP Requests

Code
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
http://arizona-rp.com/
 
GET / HTTP/1.1
Host: arizona-rp.com
User-Agent: Mozilla/5.0 (Windows NT 6.1; rv:41.0) Gecko/20100101 Firefox/41.0
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8
Accept-Language: ru-RU,ru;q=0.8,en-US;q=0.5,en;q=0.3
Accept-Encoding: gzip, deflate
Connection: keep-alive
 
HTTP/1.1 503 Service Temporarily Unavailable
Date: Sun, 26 Jun 2016 11:09:07 GMT
Content-Type: text/html; charset=UTF-8
Transfer-Encoding: chunked
Connection: close
Set-Cookie: __cfduid=dd7a522790604bba1887af1d020b609d31466939347; expires=Mon, 26-Jun-17 11:09:07 GMT; path=/; domain=.arizona-rp.com; HttpOnly
X-Frame-Options: SAMEORIGIN
refresh: 8;URL=/cdn-cgi/l/chk_jschl?pass=1466939351.401-mPZUSYdltM
Cache-Control: no-cache
Server: cloudflare-nginx
CF-RAY: 2b90348943eb4f26-DME
----------------------------------------------------------
http://arizona-rp.com/favicon.ico
 
GET /favicon.ico HTTP/1.1
Host: arizona-rp.com
User-Agent: Mozilla/5.0 (Windows NT 6.1; rv:41.0) Gecko/20100101 Firefox/41.0
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8
Accept-Language: ru-RU,ru;q=0.8,en-US;q=0.5,en;q=0.3
Accept-Encoding: gzip, deflate
Cookie: __cfduid=dd7a522790604bba1887af1d020b609d31466939347
Connection: keep-alive
 
HTTP/1.1 200 OK
Date: Sun, 26 Jun 2016 11:09:07 GMT
Content-Type: image/x-icon
Transfer-Encoding: chunked
Connection: keep-alive
Last-Modified: Sun, 08 Nov 2015 18:28:41 GMT
Etag: W/"563f9459-13e"
CF-Cache-Status: HIT
Vary: Accept-Encoding
Expires: Sun, 03 Jul 2016 11:09:07 GMT
Cache-Control: public, max-age=604800
Server: cloudflare-nginx
CF-RAY: 2b90348ac0cf4e2a-DME
Content-Encoding: gzip
----------------------------------------------------------
http://arizona-rp.com/cdn-cgi/l/chk_jschl?jschl_vc=a9032d5192292d9464de323b3c7eb92b&pass=1466939351.401-mPZUSYdltM&jschl_answer=8
 
GET /cdn-cgi/l/chk_jschl?jschl_vc=a9032d5192292d9464de323b3c7eb92b&pass=1466939351.401-mPZUSYdltM&jschl_answer=8 HTTP/1.1
Host: arizona-rp.com
User-Agent: Mozilla/5.0 (Windows NT 6.1; rv:41.0) Gecko/20100101 Firefox/41.0
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8
Accept-Language: ru-RU,ru;q=0.8,en-US;q=0.5,en;q=0.3
Accept-Encoding: gzip, deflate
Referer: http://arizona-rp.com/
Cookie: __cfduid=dd7a522790604bba1887af1d020b609d31466939347
Connection: keep-alive
 
HTTP/1.1 302 Moved Temporarily
Date: Sun, 26 Jun 2016 11:09:11 GMT
Content-Type: text/html
Content-Length: 165
Connection: keep-alive
Set-Cookie: cf_clearance=03335885c7a6f95250b54a1b5cc4e44ceeeb4239-1466939351-7200; expires=Sun, 26-Jun-16 14:09:11 GMT; path=/; domain=.arizona-rp.com; HttpOnly
Location: http://arizona-rp.com/
Server: cloudflare-nginx
CF-RAY: 2b9034a365874e2a-DME
X-Frame-Options: SAMEORIGIN
----------------------------------------------------------
http://arizona-rp.com/
 
GET / HTTP/1.1
Host: arizona-rp.com
User-Agent: Mozilla/5.0 (Windows NT 6.1; rv:41.0) Gecko/20100101 Firefox/41.0
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8
Accept-Language: ru-RU,ru;q=0.8,en-US;q=0.5,en;q=0.3
Accept-Encoding: gzip, deflate
Referer: http://arizona-rp.com/
Cookie: __cfduid=dd7a522790604bba1887af1d020b609d31466939347; cf_clearance=03335885c7a6f95250b54a1b5cc4e44ceeeb4239-1466939351-7200
Connection: keep-alive
 
HTTP/1.1 200 OK
Date: Sun, 26 Jun 2016 11:09:11 GMT
Content-Type: text/html; charset=utf-8
Transfer-Encoding: chunked
Connection: keep-alive
Set-Cookie: _csrf=81ecc5c3b0b257fc418cca7656a74f81dabd659d2968c89b46e7047670bbf9baa%3A2%3A%7Bi%3A0%3Bs%3A5%3A%22_csrf%22%3Bi%3A1%3Bs%3A32%3A%22dB6OJQXhTQjozhq_lzPfWi7L9poYcc_r%22%3B%7D; path=/; httponly
Vary: Accept-Encoding
Server: cloudflare-nginx
CF-RAY: 2b9034a3b59b4e2a-DME
Content-Encoding: gzip
----------------------------------------------------------

Новые блоги и статьи Все статьи Все блоги /
http://iceja.net/ математические сервисы iceja 20.01.2026 Обновила свой сайт http:/ / iceja. net/ , приделала Fast Fourier Transform экстраполяцию сигналов. Однако предсказывает далеко не каждый сигнал (см ограничения http:/ / iceja. net/ fourier/ docs ). Также. . .	http://iceja.net/ сервер решения полиномов iceja 18.01.2026 Выкатила http:/ / iceja. net/ сервер решения полиномов (находит действительные корни полиномов методом Штурма). На сайте документация по API, но скажу прямо VPS слабенький и 200 000 полиномов. . .	Расчёт переходных процессов в цепи постоянного тока igorrr37 16.01.2026 / * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит переходные токи и напряжения на элементах схемы. . . .	Восстановить юзерскрипты Greasemonkey из бэкапа браузера damix 15.01.2026 Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .
Сукцессия микоризы: основная теория в виде двух уравнений. anaschu 11.01.2026 https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/	WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .	Почему дизайн решает? Neotwalker 09.01.2026 В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .