|
0 / 0 / 0
Регистрация: 11.10.2015
Сообщений: 3
|
||||||||||||||||
Парсер jsoup возвращаеться ошибка 40311.10.2015, 03:06. Показов 2941. Ответов 3
Метки нет (Все метки)
Доброго времени суток, начал не так давно изучать джаву, решил написать простенький парсер для одной анонимной имиджборды, используя jsoup - 1.8.3, все шло неплохо, было реализовано выгребание jpg/png/gif с определенного треда. (В будущем хотел дописать поиск "Thread name" и сохранение с него картинок и/или .webm). Но тут внезапно прилетело
Кликните здесь для просмотра всего текста
Копаюсь уже какое то время, везде пишут проход этого эксепшена с помощью userAgent, но чет у меня не выходит. Буду очень благодарен если кто даст дельный совет относительно данной проблемы, ну или хотя бы подскажет в какой стороне копать. Насчет использование специальных апи для данной борды думал, хочу разобраться с данным вариантом реализации. Сам код Кликните здесь для просмотра всего текста
Использовал: - jsoup-1.8.3.jar - JDK 1.8 Дополнительная ссылка на код: http://ideone.com/TVfmmv Есть мнение что работает какая-то dDoS защита( как в таком случае обходить ) \\ мне известен рабочий многопользовательский скрипт от стороннего разработчика В в котором реализовано что-то типа грабера картинок, значит способ есть. Могу прикрепить ссылку на скрипт + гитхаб. Могу внести уточнение относительно самого сайта. Первый раз на вашем форуме сильно не ругайтесь если напартачил с оформлением. Наперед говорю спасибо. Добавлено через 39 минут Сейчас посмотрел, на тот же код ругается по другому Кликните здесь для просмотра всего текста
Теперь, Status=503. И если в Document doc = Jsoup дописать .ignoreHttpErrors(true), оно скомпилиться без ошибок, но страницу парсирует не полностью. И соответственно скрипт не будет работать так как оно не находит ссылок. Ума не приложу что это может быть. Добавлено через 1 час 45 минут Я тут еще покопался и люди говорят что это cloudflare, и что у меня ничего не выйдет.
0
|
||||||||||||||||
| 11.10.2015, 03:06 | |
|
Ответы с готовыми решениями:
3
Java Jsoup парсер поисковой выдачи Парсер JSOUP JSoup парсер |
|
|
|
| 11.10.2015, 15:49 | |
|
Могу предложить использовать реальный браузер для парсинга.
Чтобы управлять браузером есть библиотека Selenium. Могу порекомендовать удобную обёртку над ним - http://ru.selenide.org/ В своё время тоже долго парился с парсингом одного сайта. Потом просто взял selenide и всё быстро сделал.
1
|
|
|
0 / 0 / 0
Регистрация: 11.10.2015
Сообщений: 3
|
||||||
| 11.10.2015, 20:36 [ТС] | ||||||
|
Спасибо сейчас буду копаться в Selenium. Скажу лишь что программа неожиданно для меня вдруг заработала, что наталкивает на кое-какие мысли по поводу роботы защиты.
Кликните здесь для просмотра всего текста
0
|
||||||
|
0 / 0 / 1
Регистрация: 04.08.2015
Сообщений: 6
|
|
| 05.11.2015, 16:04 | |
|
1. Советую попробовать прописать user agent, вполне возможно поможет.
2. Уточните, через какой период времени начинают сыпаться ошибки, возможно установлено ограничение на обращения к порталу с одного ip-адреса.
0
|
|
| 05.11.2015, 16:04 | |
|
Помогаю со студенческими работами здесь
4
HTTP Status 500 - java.lang.NoClassDefFoundError: org/jsoup/Jsoup Django Ошибка доступа (403) Ошибка проверки CSRF. Запрос отклонён При создании класса в проекте, после сборки появляется ошибка Ошибка HTTP 403.14 - Forbidden. ошибка Ошибка HTTP 403.14 - Forbidden Веб-сервер настроен таким образом, чтобы не формировать списка содержимого каталога Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
Новые блоги и статьи
|
||||
|
PhpStorm 2025.3: WSL Terminal всегда стартует в ~
and_y87 14.12.2025
PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта
Симптом:
После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .
|
Access
VikBal 11.12.2025
Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
|
Новый ноутбук
volvo 07.12.2025
Всем привет.
По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне:
Ryzen 5 7533HS
64 Gb DDR5
1Tb NVMe
16" Full HD Display
Win11 Pro
|
Музыка, написанная Искусственным Интеллектом
volvo 04.12.2025
Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .
|
От async/await к виртуальным потокам в Python
IndentationError 23.11.2025
Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
|
|
Поиск "дружественных имён" СОМ портов
Argus19 22.11.2025
Поиск "дружественных имён" СОМ портов
На странице:
https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/
нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .
|
Сколько Государство потратило денег на меня, обеспечивая инсулином.
Programma_Boinc 20.11.2025
Сколько Государство потратило денег на меня, обеспечивая инсулином.
Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов.
. . .
|
Ломающие изменения в C#.NStar Alpha
Etyuhibosecyu 20.11.2025
Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .
|
Мысли в слух
kumehtar 18.11.2025
Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .
|
Создание Single Page Application на фреймах
krapotkin 16.11.2025
Статья исключительно для начинающих. Подходы оригинальностью не блещут.
В век Веб все очень привыкли к дизайну Single-Page-Application .
Быстренько разберем подход "на фреймах".
Мы делаем одну. . .
|