Парсинг web-страницы с авторизацией

@kushok · Регистрация: 05.12.2012

Студворк — интернет-сервис помощи студентам

Добрый день!

В общем столкнулся со следующей проблемой: хочу мониторить пару сайтов с халтурой... Все бы просто, качаю страничку, ее парсю, выдаю какие-нибудь оповещения. Раньше так же делал и с разделом Киберфорума - https://www.cyberforum.ru/order-program/

Java
1
2
3
4
5
6
7
8
9
10
11
        URL yahoo = new URL(pageAddress);
            BufferedReader in = new BufferedReader(
                    new InputStreamReader(
                    yahoo.openStream()));
 
            String inputLine;
 
            while ((inputLine = in.readLine()) != null) {
                str += inputLine + "\n";
            }
            in.close();

Только вот теперь на этом же разделе нельзя посмотреть список заказов незалогиневшись. Соответственно читается страничка с текстом "В этом разделе пока нет ваших заказов. На данный момент у вас нет прав просматривать чужие заказы". Такая же проблема и на некоторых других сайтах присутствует. Как бы с этим побороться?

@xoraxax · 15.01.2017, 19:45

залогиниться?

@kushok · 15.01.2017, 21:04 **[ТС]**

Пройти авторизацию

Добавлено через 8 минут
Или если это ответ типа такой, то как бы это сделать средствами джавы? (не тупо скачать код страницы).

@xoraxax · 15.01.2017, 21:06

наверно нужно запрос отправить какой-то?

@kushok · 15.01.2017, 21:13 **[ТС]**

Не исключено. А продолжится ли сессия после этого запроса? (извиняюсь, если ерунду говорю или с терминологией ошибаюсь)

@xoraxax · 15.01.2017, 21:28

а как по-твоему продолжается сессия?

Добавлено через 1 минуту
а вообще, поставь, fiddler и посмотри

@KEKCoGEN · 16.01.2017, 10:19

kushok, забавная ситуация...вы хотите мониторить раздел фриланса. То есть предоставляете свои услуги за деньги....какие же вы услуги предоставляете если элементарно не можете GET запрос послать?

@kushok · 16.01.2017, 13:57 **[ТС]**

KEKCoGEN, хорошо, что не во всех заказах требуется посылать запросы. Ну и мониторить != предоставлять услуги.

Pablito · 16.01.2017, 14:42

Не по теме:

зашел сюда, что бы написать о том, что сапожник без сапог, и не умеет находить нужную инфу самостоятельно, но KEKCoGEN, опередил уже

@The535 · 17.01.2017, 00:28

Все зависит от метода авторизации. В одном из известных методов отправляете POST запрос с логином и паролем. Получаете в ответ ключ, все остальные запросы отправляете вместе с этим ключом. Это если оооочень грубо и коротко говорить.

Новые блоги и статьи Все статьи Все блоги /
Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост. Programma_Boinc 28.12.2025 Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост. Налог на собак: https:/ / ********/ gallery/ V06K53e Финансовый отчет в Excel: https:/ / ********/ gallery/ bKBkQFf Пост отсюда. . .	Кто-нибудь знает, где можно бесплатно получить настольный компьютер или ноутбук? США. Programma_Boinc 26.12.2025 Нашел на реддите интересную статью под названием Anyone know where to get a free Desktop or Laptop? Ниже её машинный перевод. После долгих разбирательств я наконец-то вернула себе. . .	Thinkpad X220 Tablet — это лучший бюджетный ноутбук для учёбы, точка. Programma_Boinc 23.12.2025 Рецензия / Мнение/ Перевод Нашел на реддите интересную статью под названием The Thinkpad X220 Tablet is the best budget school laptop period . Ниже её машинный перевод. Thinkpad X220 Tablet —. . .	PhpStorm 2025.3: WSL Terminal всегда стартует в ~ and_y87 14.12.2025 PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .	Как объединить две одинаковые БД Access с разными данными VikBal 11.12.2025 Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
Новый ноутбук volvo 07.12.2025 Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro	Музыка, написанная Искусственным Интеллектом volvo 04.12.2025 Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .	От async/await к виртуальным потокам в Python IndentationError 23.11.2025 Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .	Поиск "дружественных имён" СОМ портов Argus19 22.11.2025 Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .	Сколько Государство потратило денег на меня, обеспечивая инсулином. Programma_Boinc 20.11.2025 Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .

@xoraxax 3639 / 2971 / 918 Регистрация: 05.07.2013 Сообщений: 14,220
	15.01.2017, 19:45
	залогиниться? 0

@kushok 126 / 113 / 56 Регистрация: 05.12.2012 Сообщений: 463
	15.01.2017, 21:04 [ТС]
	Пройти авторизацию Добавлено через 8 минут Или если это ответ типа такой, то как бы это сделать средствами джавы? (не тупо скачать код страницы). 0

@xoraxax 3639 / 2971 / 918 Регистрация: 05.07.2013 Сообщений: 14,220
	15.01.2017, 21:06
	наверно нужно запрос отправить какой-то? 0

@kushok 126 / 113 / 56 Регистрация: 05.12.2012 Сообщений: 463
	15.01.2017, 21:13 [ТС]
	Не исключено. А продолжится ли сессия после этого запроса? (извиняюсь, если ерунду говорю или с терминологией ошибаюсь) 0

@xoraxax 3639 / 2971 / 918 Регистрация: 05.07.2013 Сообщений: 14,220
	15.01.2017, 21:28
	а как по-твоему продолжается сессия? Добавлено через 1 минуту а вообще, поставь, fiddler и посмотри 0

@KEKCoGEN 2399 / 2224 / 565 Регистрация: 28.12.2010 Сообщений: 8,672
	16.01.2017, 10:19
	kushok, забавная ситуация...вы хотите мониторить раздел фриланса. То есть предоставляете свои услуги за деньги....какие же вы услуги предоставляете если элементарно не можете GET запрос послать? 0

@kushok 126 / 113 / 56 Регистрация: 05.12.2012 Сообщений: 463
	16.01.2017, 13:57 [ТС]
	KEKCoGEN, хорошо, что не во всех заказах требуется посылать запросы. Ну и мониторить != предоставлять услуги. 0

Pablito
	16.01.2017, 14:42
	Не по теме: зашел сюда, что бы написать о том, что сапожник без сапог, и не умеет находить нужную инфу самостоятельно, но KEKCoGEN, опередил уже 0

@The535 26 / 26 / 18 Регистрация: 16.01.2014 Сообщений: 161
	17.01.2017, 00:28
	Все зависит от метода авторизации. В одном из известных методов отправляете POST запрос с логином и паролем. Получаете в ответ ключ, все остальные запросы отправляете вместе с этим ключом. Это если оооочень грубо и коротко говорить. 0