Ускорить процесс обновления данных в БД Postgres

@zuxa-zuxa · Регистрация: 15.02.2012

Студворк — интернет-сервис помощи студентам

Здравствуйте! Делаю вот так:

Java
1
2
3
4
5
6
7
8
9
10
11
12
13
updates.forEach((key, data) -> {
            executeWithTransaction(em -> {
                List<MyModel> resultList = em.createQuery(
                        SELECT_BY_KEY_QUERY, MyModel.class).setParameter("key", key)
                        .getResultList();
                if (resultList.isEmpty()) {
                    em.persist(new MyModel(key, data));
                } else {
                    aggregate(resultList.get(0).getData(), data);
                    em.merge(new MyModel(key, data));
                }
            });
        });

Суть - обновить данные в бд, тех которых нет - добавить, а которые есть - к ним применить aggregate и перезаписать.
Проблема: на 80тыс. updates - время всего этого выходит около 12 минут. Каждый апдейт в своей транзакции - дорого, однако зато безопасность, чтобы не потерять все данные из за 1 ошибки. Пробовал делать всё в 1 транзакции, чисто для теста, на 40% примерно быстрее, но безопасность данных важнее мне, могу только в 1 транзакции по 10 апдейтов обрабатывать. Но выйгрыш не большой выходит. Может быть будет быстрее это native query делать? Как заставить hibernate ускориться? Помогите пожалуйста. Data у меня - это json колонка, её размер в символах может превышать 150тыс символов.
В java она прописана у меня как:

Java
1
2
@Column(name = "data", nullable = false)
    @Type(type = "data-map")

Java
1
@TypeDefs({@TypeDef(name = "data-map", typeClass = DataMapJsonType.class)})

За ранее спасибо за любые идеи

@KEKCoGEN · 20.09.2018, 08:39

Сообщение от zuxa-zuxa

Каждый апдейт в своей транзакции - дорого, однако зато безопасность

безопасность тут каким боком?

Если не ожидается что ошибки будут часто, то можно делать все в одной транзакции. В случае ошибки, данные можно разбивать на более мелкие фрагменты и вставлять пока не найдется проблемная строка.

@zuxa-zuxa · 20.09.2018, 09:24 **[ТС]**

KEKCoGEN, Вы предлагаете потратить 10 минут на заваливание транзакции, а потом частями тоже самое ещё раз делать? Ну это совсем не ускорит процесс, а мне ускорить бы.
Чисто в теории ошибки не больше 1шт на 100тыс. Я готов терять 10, ну даже 100 записей на 1 такую ошибку, так что вот пока наилучшее решение - 100 записей в одну транзакцию.
Я вот волнуюсь по поводу того, что я сначала делаю select, а потом update. 2 раза по большой таблице идти, может это лучше сделать одним запросом как то? Чтобы разок прошелся, увидел запись и обновил.

Новые блоги и статьи Все статьи Все блоги /
Кто-нибудь знает, где можно бесплатно получить настольный компьютер или ноутбук? США. Programma_Boinc 26.12.2025 Кто-нибудь знает, где можно бесплатно получить настольный компьютер или ноутбук? США. Нашел на реддите интересную статью под названием «Кто-нибудь знает, где получить бесплатный компьютер или. . .	Thinkpad X220 Tablet — это лучший бюджетный ноутбук для учёбы, точка. Programma_Boinc 23.12.2025 Рецензия / Мнение/ Перевод Нашел на реддите интересную статью под названием The Thinkpad X220 Tablet is the best budget school laptop period . Ниже её машинный перевод. Thinkpad X220 Tablet —. . .	PhpStorm 2025.3: WSL Terminal всегда стартует в ~ and_y87 14.12.2025 PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .	Как объединить две одинаковые БД Access с разными данными VikBal 11.12.2025 Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.	Новый ноутбук volvo 07.12.2025 Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro
Музыка, написанная Искусственным Интеллектом volvo 04.12.2025 Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .	От async/await к виртуальным потокам в Python IndentationError 23.11.2025 Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .	Поиск "дружественных имён" СОМ портов Argus19 22.11.2025 Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .	Сколько Государство потратило денег на меня, обеспечивая инсулином. Programma_Boinc 20.11.2025 Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .	Ломающие изменения в C#.NStar Alpha Etyuhibosecyu 20.11.2025 Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .

@zuxa-zuxa Мишка Косолапый :) 285 / 255 / 86 Регистрация: 15.02.2012 Сообщений: 1,511
	20.09.2018, 09:24 [ТС]
	KEKCoGEN, Вы предлагаете потратить 10 минут на заваливание транзакции, а потом частями тоже самое ещё раз делать? Ну это совсем не ускорит процесс, а мне ускорить бы. Чисто в теории ошибки не больше 1шт на 100тыс. Я готов терять 10, ну даже 100 записей на 1 такую ошибку, так что вот пока наилучшее решение - 100 записей в одну транзакцию. Я вот волнуюсь по поводу того, что я сначала делаю select, а потом update. 2 раза по большой таблице идти, может это лучше сделать одним запросом как то? Чтобы разок прошелся, увидел запись и обновил. 0