Форум программистов, компьютерный форум, киберфорум
Java: Сети
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.54/13: Рейтинг темы: голосов - 13, средняя оценка - 4.54
0 / 0 / 0
Регистрация: 11.10.2015
Сообщений: 3

Парсер jsoup возвращаеться ошибка 403

11.10.2015, 03:06. Показов 2941. Ответов 3
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Доброго времени суток, начал не так давно изучать джаву, решил написать простенький парсер для одной анонимной имиджборды, используя jsoup - 1.8.3, все шло неплохо, было реализовано выгребание jpg/png/gif с определенного треда. (В будущем хотел дописать поиск "Thread name" и сохранение с него картинок и/или .webm). Но тут внезапно прилетело

Кликните здесь для просмотра всего текста
Java
1
2
3
4
5
6
7
8
9
10
11
12
run:
run:
окт 11, 2015 12:27:13 AM parser2ch.Parser2ch main
SEVERE: null
java.io.IOException: Server returned HTTP response code: 403 for URL: [url]https://2ch.hk/pa/src/211789/14428359755130.jpg[/url]
    at sun.net.[url]www.protocol.http.HttpURLConnection.getInputStream0(HttpURLConnection.java:1839[/url])
    at sun.net.[url]www.protocol.http.HttpURLConnection.getInputStream(HttpURLConnection.java:1440[/url])
    at sun.net.[url]www.protocol.https.HttpsURLConnectionImpl.getInputStream(HttpsURLConnectionImpl.java:254[/url])
    at java.net.URL.openStream(URL.java:1038)
    at parser2ch.Parser2ch.main(Parser2ch.java:37)
 
СБОРКА УСПЕШНО ЗАВЕРШЕНА (общее время: 7 секунды)


Копаюсь уже какое то время, везде пишут проход этого эксепшена с помощью userAgent, но чет у меня не выходит. Буду очень благодарен если кто даст дельный совет относительно данной проблемы, ну или хотя бы подскажет в какой стороне копать. Насчет использование специальных апи для данной борды думал, хочу разобраться с данным вариантом реализации.


Сам код
Кликните здесь для просмотра всего текста
Java
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
package parser2ch;
 
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.select.Elements;
import java.io.*;
import javax.imageio.*;
import java.net.*;
import java.util.logging.Level;
import java.util.logging.Logger;
import java.awt.image.BufferedImage;
 
public class Parser2ch {
            
 
   
    public static void main(String[] args)  {
           
        try {
            // System.setProperty("http.proxyHost", "103.10.22.242");
            //System.setProperty("http.proxyPort", "1080");
            //https://2ch.hk/b/res/ - ссылка на раздел   
            // 211789.html - конкретный тред, постоянно удаляются. 
            String urlThread = "https://2ch.hk/pa/res/211789.html"; 
            Document doc = Jsoup
                    .connect(urlThread)         
                    .timeout(5000)
                    .userAgent("Mozilla/41.0.1")
                    .get();
                 
            Elements links = doc.select("a.desktop");
            int tick = 1;
            for(;tick<links.size();tick++){
                String absHref = links.eq(tick).attr("abs:href");
                String linkText = links.eq(tick).text();
                URL url = new URL(absHref);
                    
                // read the url 
                BufferedImage image = ImageIO.read(url.openStream()); // сюда ругается 
                // проверяеdsм на пусто
                if (image != null){
                    
                    try {
                        ImageIO.write(image, "jpg",new File("D:\\JavaProject\\Parser2ch\\images"+linkText)); //сохраняет
                        Thread.sleep(2000); 
                        System.out.println(tick+" "+linkText+" +");
                    } catch (InterruptedException ex) {
                        Logger.getLogger(Parser2ch.class.getName()).log(Level.SEVERE, null, ex);
                        System.out.println(tick+" "+linkText+" -");
                    }
                    
                }
            }
        } catch (IOException ex) {
            Logger.getLogger(Parser2ch.class.getName()).log(Level.SEVERE, null, ex);
        }
        
     
    }
    
}



Использовал:
- jsoup-1.8.3.jar
- JDK 1.8


Дополнительная ссылка на код: http://ideone.com/TVfmmv


Есть мнение что работает какая-то dDoS защита( как в таком случае обходить ) \\ мне известен рабочий многопользовательский скрипт от стороннего разработчика В в котором реализовано что-то типа грабера картинок, значит способ есть. Могу прикрепить ссылку на скрипт + гитхаб.

Могу внести уточнение относительно самого сайта. Первый раз на вашем форуме сильно не ругайтесь если напартачил с оформлением. Наперед говорю спасибо.

Добавлено через 39 минут
Сейчас посмотрел, на тот же код ругается по другому

Кликните здесь для просмотра всего текста
Java
1
2
3
4
5
6
7
8
9
10
11
run:
окт 11, 2015 1:17:26 AM parser2ch.Parser2ch main
SEVERE: null
org.jsoup.HttpStatusException: HTTP error fetching URL. Status=503, URL=https://2ch.hk/pa/res/211789.html
    at org.jsoup.helper.HttpConnection$Response.execute(HttpConnection.java:537)
    at org.jsoup.helper.HttpConnection$Response.execute(HttpConnection.java:493)
    at org.jsoup.helper.HttpConnection.execute(HttpConnection.java:205)
    at org.jsoup.helper.HttpConnection.get(HttpConnection.java:194)
    at parser2ch.Parser2ch.main(Parser2ch.java:28)
 
СБОРКА УСПЕШНО ЗАВЕРШЕНА (общее время: 1 секунда)


Теперь, Status=503. И если в Document doc = Jsoup дописать .ignoreHttpErrors(true), оно скомпилиться без ошибок, но страницу парсирует не полностью. И соответственно скрипт не будет работать так как оно не находит ссылок. Ума не приложу что это может быть.

Добавлено через 1 час 45 минут
Я тут еще покопался и люди говорят что это cloudflare, и что у меня ничего не выйдет.
0
Programming
Эксперт
39485 / 9562 / 3019
Регистрация: 12.04.2006
Сообщений: 41,671
Блог
11.10.2015, 03:06
Ответы с готовыми решениями:

Java Jsoup парсер поисковой выдачи
Здравствуйте, попытался сделать парсер для Яндекса и Google, но каждый раз значения либо разные, либо вообще ничего не находит. 1....

Парсер JSOUP
Привет,недавно начал изучать изучение java... Сейчас приступил к использованию библиотеки JSOUP, все получается вытягивает ссылки, текст...

JSoup парсер
Если кто-нть работал с JSoup, пожскажите как извлечь текст, лежащий под тегами div style=&quot;word-wrap:break-word !important;&quot;. ...

3
Эксперт Java
 Аватар для turbanoff
4094 / 3828 / 745
Регистрация: 18.05.2010
Сообщений: 9,331
Записей в блоге: 12
11.10.2015, 15:49
Могу предложить использовать реальный браузер для парсинга.
Чтобы управлять браузером есть библиотека Selenium. Могу порекомендовать удобную обёртку над ним - http://ru.selenide.org/
В своё время тоже долго парился с парсингом одного сайта. Потом просто взял selenide и всё быстро сделал.
1
0 / 0 / 0
Регистрация: 11.10.2015
Сообщений: 3
11.10.2015, 20:36  [ТС]
Спасибо сейчас буду копаться в Selenium. Скажу лишь что программа неожиданно для меня вдруг заработала, что наталкивает на кое-какие мысли по поводу роботы защиты.


Кликните здесь для просмотра всего текста
Java
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
run:
1 14434286469880.jpg +
2 14434286470081.jpg +
3 14434286470122.jpg +
4 14434290793440.jpg +
5 14434337469470.jpg +
6 14434542373730.jpg +
7 14434619658850.jpg +
8 14434636140930.jpg +
9 14434741692130.jpg +
10 14434803261380.jpg +
11 14435167163790.jpg +
12 14435368063650.jpg +
13 14435642738970.jpg +
14 14435656638720.png +
15 14435656638731.png +
16 14436127472180.jpg +
17 14436127472191.jpg +
18 14436186635820.png +
19 14436377678490.png +
СБОРКА ОСТАНОВЛЕНА (общее время: 48 секунды)
0
0 / 0 / 1
Регистрация: 04.08.2015
Сообщений: 6
05.11.2015, 16:04
1. Советую попробовать прописать user agent, вполне возможно поможет.
2. Уточните, через какой период времени начинают сыпаться ошибки, возможно установлено ограничение на обращения к порталу с одного ip-адреса.
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
inter-admin
Эксперт
29715 / 6470 / 2152
Регистрация: 06.03.2009
Сообщений: 28,500
Блог
05.11.2015, 16:04
Помогаю со студенческими работами здесь

Java.io.IOException Jsoup парсер
Суть: получить текст песни с этого сайта В консоли в эклипсе все работает прекрасно, но когда переношу это на андроид выдает мне...

HTTP Status 500 - java.lang.NoClassDefFoundError: org/jsoup/Jsoup
Добавил библиотеку в pom, все нормально импортируется. Но в рантайме кидает ошибку: &quot;Handler processing failed; nested exception is...

Django Ошибка доступа (403) Ошибка проверки CSRF. Запрос отклонён
На хостинге разместил сайт и не могу войти в админку, т.к. возникает 403 ошибка &quot;Ошибка доступа (403). Ошибка проверки CSRF. Запрос...

При создании класса в проекте, после сборки появляется ошибка Ошибка HTTP 403.14 - Forbidden.
Сайт только начинаю делать. БД подключена, данные выводятся. При создании класса в проекте, после сборки появляется ошибка Ошибка HTTP...

ошибка Ошибка HTTP 403.14 - Forbidden Веб-сервер настроен таким образом, чтобы не формировать списка содержимого каталога
вообщем создаю тупо пустой веб сайт ничего в нем не меняю и не трогаю запускаю,получаю такую ошибку: Ошибка HTTP 403.14 - Forbidden...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
4
Ответ Создать тему
Новые блоги и статьи
PhpStorm 2025.3: WSL Terminal всегда стартует в ~
and_y87 14.12.2025
PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .
Access
VikBal 11.12.2025
Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
Новый ноутбук
volvo 07.12.2025
Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro
Музыка, написанная Искусственным Интеллектом
volvo 04.12.2025
Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .
От async/await к виртуальным потокам в Python
IndentationError 23.11.2025
Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов
Argus19 22.11.2025
Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .
Сколько Государство потратило денег на меня, обеспечивая инсулином.
Programma_Boinc 20.11.2025
Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .
Ломающие изменения в C#.NStar Alpha
Etyuhibosecyu 20.11.2025
Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .
Мысли в слух
kumehtar 18.11.2025
Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .
Создание Single Page Application на фреймах
krapotkin 16.11.2025
Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2025, CyberForum.ru