Ускорить процесс обновления данных в БД Postgres

@zuxa-zuxa · Регистрация: 15.02.2012

Студворк — интернет-сервис помощи студентам

Здравствуйте! Делаю вот так:

Java
1
2
3
4
5
6
7
8
9
10
11
12
13
updates.forEach((key, data) -> {
            executeWithTransaction(em -> {
                List<MyModel> resultList = em.createQuery(
                        SELECT_BY_KEY_QUERY, MyModel.class).setParameter("key", key)
                        .getResultList();
                if (resultList.isEmpty()) {
                    em.persist(new MyModel(key, data));
                } else {
                    aggregate(resultList.get(0).getData(), data);
                    em.merge(new MyModel(key, data));
                }
            });
        });

Суть - обновить данные в бд, тех которых нет - добавить, а которые есть - к ним применить aggregate и перезаписать.
Проблема: на 80тыс. updates - время всего этого выходит около 12 минут. Каждый апдейт в своей транзакции - дорого, однако зато безопасность, чтобы не потерять все данные из за 1 ошибки. Пробовал делать всё в 1 транзакции, чисто для теста, на 40% примерно быстрее, но безопасность данных важнее мне, могу только в 1 транзакции по 10 апдейтов обрабатывать. Но выйгрыш не большой выходит. Может быть будет быстрее это native query делать? Как заставить hibernate ускориться? Помогите пожалуйста. Data у меня - это json колонка, её размер в символах может превышать 150тыс символов.
В java она прописана у меня как:

Java
1
2
@Column(name = "data", nullable = false)
    @Type(type = "data-map")

Java
1
@TypeDefs({@TypeDef(name = "data-map", typeClass = DataMapJsonType.class)})

За ранее спасибо за любые идеи

@KEKCoGEN · 20.09.2018, 08:39

Сообщение от zuxa-zuxa

Каждый апдейт в своей транзакции - дорого, однако зато безопасность

безопасность тут каким боком?

Если не ожидается что ошибки будут часто, то можно делать все в одной транзакции. В случае ошибки, данные можно разбивать на более мелкие фрагменты и вставлять пока не найдется проблемная строка.

@zuxa-zuxa · 20.09.2018, 09:24 **[ТС]**

KEKCoGEN, Вы предлагаете потратить 10 минут на заваливание транзакции, а потом частями тоже самое ещё раз делать? Ну это совсем не ускорит процесс, а мне ускорить бы.
Чисто в теории ошибки не больше 1шт на 100тыс. Я готов терять 10, ну даже 100 записей на 1 такую ошибку, так что вот пока наилучшее решение - 100 записей в одну транзакцию.
Я вот волнуюсь по поводу того, что я сначала делаю select, а потом update. 2 раза по большой таблице идти, может это лучше сделать одним запросом как то? Чтобы разок прошелся, увидел запись и обновил.

Новые блоги и статьи Все статьи Все блоги /
Символьное дифференцирование igorrr37 13.02.2026 / * Логарифм записывается как: (x-2)log(x^2+2) - означает логарифм (x^2+2) по основанию (x-2). Унарный минус обозначается как ! */ #include <iostream> #include <stack> #include <cctype>. . .	Камера Toupcam IUA500KMA Eddy_Em 12.02.2026 Т. к. у всяких "хикроботов" слишком уж мелкий пиксель, для подсмотра в ESPriF они вообще плохо годятся: уже 14 величину можно рассмотреть еле-еле лишь на экспозициях под 3 секунды (а то и больше),. . .	И ясному Солнцу zbw 12.02.2026 И ясному Солнцу, и светлой Луне. В мире покоя нет и люди не могут жить в тишине. А жить им немного лет.	«Знание-Сила» zbw 12.02.2026 «Знание-Сила» «Время-Деньги» «Деньги -Пуля»
SDL3 для Web (WebAssembly): Подключение Box2D v3, физика и отрисовка коллайдеров 8Observer8 12.02.2026 Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами и вызывать обработчики событий столкновения. . . .	SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL_LoadPNG (без SDL3_image) 8Observer8 11.02.2026 Содержание блога Библиотека SDL3 содержит встроенные инструменты для базовой работы с изображениями - без использования библиотеки SDL3_image. Пошагово создадим проект для загрузки изображения. . .	SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL3_image 8Observer8 10.02.2026 Содержание блога Библиотека SDL3_image содержит инструменты для расширенной работы с изображениями. Пошагово создадим проект для загрузки изображения формата PNG с альфа-каналом (с прозрачным. . .	Установка Qt-версии Lazarus IDE в Debian Trixie Xfce volvo 10.02.2026 В общем, достали меня глюки IDE Лазаруса, собранной с использованием набора виджетов Gtk2 (конкретно: если набирать текст в редакторе и вызвать подсказку через Ctrl+Space, то после закрытия окошка. . .

@zuxa-zuxa Мишка Косолапый :) 285 / 255 / 86 Регистрация: 15.02.2012 Сообщений: 1,511
	20.09.2018, 09:24 [ТС]
	KEKCoGEN, Вы предлагаете потратить 10 минут на заваливание транзакции, а потом частями тоже самое ещё раз делать? Ну это совсем не ускорит процесс, а мне ускорить бы. Чисто в теории ошибки не больше 1шт на 100тыс. Я готов терять 10, ну даже 100 записей на 1 такую ошибку, так что вот пока наилучшее решение - 100 записей в одну транзакцию. Я вот волнуюсь по поводу того, что я сначала делаю select, а потом update. 2 раза по большой таблице идти, может это лучше сделать одним запросом как то? Чтобы разок прошелся, увидел запись и обновил. 0