С Новым годом! Форум программистов, компьютерный форум, киберфорум
Java: Spring, Spring Boot
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.88/8: Рейтинг темы: голосов - 8, средняя оценка - 4.88
0 / 0 / 0
Регистрация: 24.01.2018
Сообщений: 3

Spring обработка больших объемов данных

24.01.2018, 22:20. Показов 1581. Ответов 1
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Опишу задачу, прошу подсказки куда смотреть. Надо обработать большое количество данных как можно быстрее и эффективнее.
Задача скорее всего типичная:
1. Спарсить 3-4 сайта (желательно одновременно)
2. Обработать эти данные в нужный формат для вставки в базу
3. Закинуть все это добро в базу

С технологиями баз и парсинга определился, но теперь не могу определиться как все это сделать быстро и производительно. Как бы в спринге есть @Async и можно сделать параллельный парсинг. Смотрел также в сторону Spring Batch, но не могу понять в нем есть многопоточность "под капотом" или он просто тупо дробит большое задание на части? В общем подскажите пожалуйста какую технологию применить, как вы бы решили данную задачу?
0
cpp_developer
Эксперт
20123 / 5690 / 1417
Регистрация: 09.04.2010
Сообщений: 22,546
Блог
24.01.2018, 22:20
Ответы с готовыми решениями:

Выделение больших объемов памяти в Java
Никак мне неясно, как можно в яве реализовать выделение больших объемов памяти. Проблема: пытаюсь создать String или byte размером более 4...

Spring REST'ful вебсервис: пост обработка
Есть сервис раздающий объекты DTO Employee (класс сущности соответственно EmployeeEntity). Можно ли как-то настроить пост обработчик в...

Обработка больших объемов данных
Всем привет. Мне нужно обработать много много строк таблицы, фильтруя их по столбцам. Начну пожалуй сразу с примера. Пример...

1
Эксперт Java
3639 / 2971 / 918
Регистрация: 05.07.2013
Сообщений: 14,220
24.01.2018, 22:51
Ты для начала спарси и в базу положи, а потом думать будешь как распараллелить
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
raxper
Эксперт
30234 / 6612 / 1498
Регистрация: 28.12.2010
Сообщений: 21,154
Блог
24.01.2018, 22:51
Помогаю со студенческими работами здесь

Обработка больших объемов данных из Excel
Здравствуйте, уважаемые форумчане! Есть огромных размеров excel файл, пусть для простоты, в нем хранятся сведения о погоде: дата,...

Добавление в бд больших объемов данных
В бд есть 1 таблица, 31 столбец. С помощь php в запросе добавляются данные. Данные берутся не откуда то, а именно в коде рукой пишется, что...

Сортировка больших объемов данных
Доброго времени суток! Есть такая программа поточной сортировки массива. Когда вводится размер ~1кк, программа работает нереально долго....

Добавление больших объемов данных
Доброго времени суток. Разрабатываю веб-приложение, в качестве бд использую MS SQL для доступа к данным Entity. Мне нужно загрузить 93к...

Шифрование больших объемов данных
Здравствуйте. Имеются данные (файлы различных форматов) суммарным весом около 20 гигабайт. Задача зашифровать их максимально быстро, и...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
2
Ответ Создать тему
Новые блоги и статьи
Изучаю kubernetes
lagorue 13.01.2026
А пригодятся-ли мне знания kubernetes в России?
Сукцессия микоризы: основная теория в виде двух уравнений.
anaschu 11.01.2026
https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
WordPad для Windows 11
Jel 10.01.2026
WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .
Classic Notepad for Windows 11
Jel 10.01.2026
Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .
Почему дизайн решает?
Neotwalker 09.01.2026
В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .
Модель микоризы: классовый агентный подход 3
anaschu 06.01.2026
aa0a7f55b50dd51c5ec569d2d10c54f6/ O1rJuneU_ls https:/ / vkvideo. ru/ video-115721503_456239114
Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR
ФедосеевПавел 06.01.2026
Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR ВВЕДЕНИЕ Введу сокращения: аналоговый ПИД — ПИД регулятор с управляющим выходом в виде числа в диапазоне от 0% до. . .
Модель микоризы: классовый агентный подход 2
anaschu 06.01.2026
репозиторий https:/ / github. com/ shumilovas/ fungi ветка по-частям. коммит Create переделка под биомассу. txt вход sc, но sm считается внутри мицелия. кстати, обьем тоже должен там считаться. . . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru