Spring обработка больших объемов данных

@razorg1991 · Регистрация: 24.01.2018

Студворк — интернет-сервис помощи студентам

Опишу задачу, прошу подсказки куда смотреть. Надо обработать большое количество данных как можно быстрее и эффективнее.
Задача скорее всего типичная:
1. Спарсить 3-4 сайта (желательно одновременно)
2. Обработать эти данные в нужный формат для вставки в базу
3. Закинуть все это добро в базу

С технологиями баз и парсинга определился, но теперь не могу определиться как все это сделать быстро и производительно. Как бы в спринге есть @Async и можно сделать параллельный парсинг. Смотрел также в сторону Spring Batch, но не могу понять в нем есть многопоточность "под капотом" или он просто тупо дробит большое задание на части? В общем подскажите пожалуйста какую технологию применить, как вы бы решили данную задачу?

@xoraxax · 24.01.2018, 22:51

Ты для начала спарси и в базу положи, а потом думать будешь как распараллелить

Новые блоги и статьи Все статьи Все блоги /
Изучаю kubernetes lagorue 13.01.2026 А пригодятся-ли мне знания kubernetes в России?	Сукцессия микоризы: основная теория в виде двух уравнений. anaschu 11.01.2026 https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/	WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .
Почему дизайн решает? Neotwalker 09.01.2026 В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .	Модель микоризы: классовый агентный подход 3 anaschu 06.01.2026 aa0a7f55b50dd51c5ec569d2d10c54f6/ O1rJuneU_ls https:/ / vkvideo. ru/ video-115721503_456239114	Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR ФедосеевПавел 06.01.2026 Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR ВВЕДЕНИЕ Введу сокращения: аналоговый ПИД — ПИД регулятор с управляющим выходом в виде числа в диапазоне от 0% до. . .	Модель микоризы: классовый агентный подход 2 anaschu 06.01.2026 репозиторий https:/ / github. com/ shumilovas/ fungi ветка по-частям. коммит Create переделка под биомассу. txt вход sc, но sm считается внутри мицелия. кстати, обьем тоже должен там считаться. . . .

@razorg1991 0 / 0 / 0 Регистрация: 24.01.2018 Сообщений: 3

	Spring обработка больших объемов данных 24.01.2018, 22:20. Показов 1581. Ответов 1 Метки нет (Все метки) Опишу задачу, прошу подсказки куда смотреть. Надо обработать большое количество данных как можно быстрее и эффективнее. Задача скорее всего типичная: 1. Спарсить 3-4 сайта (желательно одновременно) 2. Обработать эти данные в нужный формат для вставки в базу 3. Закинуть все это добро в базу С технологиями баз и парсинга определился, но теперь не могу определиться как все это сделать быстро и производительно. Как бы в спринге есть @Async и можно сделать параллельный парсинг. Смотрел также в сторону Spring Batch, но не могу понять в нем есть многопоточность "под капотом" или он просто тупо дробит большое задание на части? В общем подскажите пожалуйста какую технологию применить, как вы бы решили данную задачу? 0

@xoraxax 3639 / 2971 / 918 Регистрация: 05.07.2013 Сообщений: 14,220
	24.01.2018, 22:51
	Ты для начала спарси и в базу положи, а потом думать будешь как распараллелить 0