Мониторинг изменений в базах данных

@GrossmasteR · Регистрация: 17.12.2019

Студворк — интернет-сервис помощи студентам

Уважаемые форумчане, здравствуйте!
Нужен ваш совет.

Алгоритм определения изменений схемы данных.
Введение:
В крупной системе, реализующей минросервисную архитектуру часто возникает необходимость синхронизации горячих данных между различными компонентами (исполняемыми модулями). Как правило единой точкой правды для всех компонентов является СУБД, а именно какая либо схема или набор объектов СУБД. Но частые обращения к этим объектам, в особенности запросы содержащие агрегатные или аналитические функции, негативно влияют на производительность СУБД в целом. Поэтому для разных ситуаций разрабатывают различные тактики определения разности состояний тех или иных объектов СУБД для синхронизации с приложением.
Что нужно сделать:
Спроектировать алгоритм (фунцию) определяющую есть ли изменения в СУБД или нет начиная с какого-либо времени или идентификатора.
Вариации:

[Вычисление изменение всей схемы целиком.
Вычисление изменений заданных объектов (таблиц, колонок).
Вычисление, реализованное только на JAVA без использования системных объектов СУБД.
(повышенной сложности) Вычисление, реализованное только на SQL на СУБД Postgres.
Вычисление допускает
Dведение дополнительных сущностей в схему данных, либо рекомендации к проектированию схемы.

Критерии оценки:
Код должен быть покрыт нагрузочными тестами, приведены оценки планов запроса.

Написано относительно сложно, суть, как я понимаю, необходимо написать на java какую-нибудь простую реализацию: класс, который будет отслеживать изменения данных.

Я гуглил-гуглил и так и этак. Кто-то предлагает на основе анализа журнала транзакций, использовать механизм триггеров. Вроде бы в MS Sql Server и в postgresql есть какие-то встроенные инструменты для этого, кто то предлагал делать это посредством контрольных сумм, в то же время чего-то простого доступного мне найти не удалось. Может быть есть возможность подсказать?

@xoraxax · 28.01.2020, 22:36

Судя по всему от тебя хотят, чтобы ты поработал с метаданными бд. Читаешь метаданные, сохраняешь в каком то формате, ставишь таймштамп... Профит. Но вообще описание упоротое какое то, микросервисы, какая то общая база, у которой меняется схема, причем как то отдельно от всех микроскрвисов - какой то норкоман писал, поэтому иди уточняй чо хотят.

@korvin_ · 29.01.2020, 00:24

GrossmasteR, «В крупной системе, реализующей минросервисную архитектуру часто» используют CQRS, Event Sourcing, DDD и EventBus а не перечисленные в задании костыли, подпорки и велосипеды.

@KEKCoGEN · 29.01.2020, 13:54

Это вроде тестовое задание в какой-то конторе. Мелькало уже тут.

@xoraxax · 29.01.2020, 14:01

Сообщение от korvin_

используют CQRS, Event Sourcing, DDD и EventBu

давно интересно было, что такое люди делают, чтобы им был нужен CQRS и Event sourcing

@korvin_ · 29.01.2020, 16:39

xoraxax, микросервисы же )

На ютубе есть какие-то доклады про практическое применение

@xoraxax · 29.01.2020, 17:06

korvin_, я, помнится, после попыток понять, что пишет об этом фаулер, как раз на ютюб ходил. Интересно, конечно, но так и не возникало мысли, что "вот в том то проекте было бы круто запилить cqrs", наверно, не дорос.

Новые блоги и статьи Все статьи Все блоги /
Первый деплой lagorue 16.01.2026 Не спеша развернул своё 1ое приложение в kubernetes. А дальше мне интересно создать 1фронтэнд приложения и 2 бэкэнд приложения развернуть 2 деплоя в кубере получится 2 сервиса и что-бы они. . .	Расчёт переходных процессов в цепи постоянного тока igorrr37 16.01.2026 / * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит токи на L и напряжения на C в установ. режимах до и. . .	Восстановить юзерскрипты Greasemonkey из бэкапа браузера damix 15.01.2026 Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .	Изучаю kubernetes lagorue 13.01.2026 А пригодятся-ли мне знания kubernetes в России?
Сукцессия микоризы: основная теория в виде двух уравнений. anaschu 11.01.2026 https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/	WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .	Почему дизайн решает? Neotwalker 09.01.2026 В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .

@GrossmasteR 0 / 0 / 0 Регистрация: 17.12.2019 Сообщений: 16

	Мониторинг изменений в базах данных 28.01.2020, 21:14. Показов 1601. Ответов 6 Метки java (Все метки) Уважаемые форумчане, здравствуйте! Нужен ваш совет. Алгоритм определения изменений схемы данных. Введение: В крупной системе, реализующей минросервисную архитектуру часто возникает необходимость синхронизации горячих данных между различными компонентами (исполняемыми модулями). Как правило единой точкой правды для всех компонентов является СУБД, а именно какая либо схема или набор объектов СУБД. Но частые обращения к этим объектам, в особенности запросы содержащие агрегатные или аналитические функции, негативно влияют на производительность СУБД в целом. Поэтому для разных ситуаций разрабатывают различные тактики определения разности состояний тех или иных объектов СУБД для синхронизации с приложением. Что нужно сделать: Спроектировать алгоритм (фунцию) определяющую есть ли изменения в СУБД или нет начиная с какого-либо времени или идентификатора. Вариации: [Вычисление изменение всей схемы целиком. Вычисление изменений заданных объектов (таблиц, колонок). Вычисление, реализованное только на JAVA без использования системных объектов СУБД. (повышенной сложности) Вычисление, реализованное только на SQL на СУБД Postgres. Вычисление допускает Dведение дополнительных сущностей в схему данных, либо рекомендации к проектированию схемы. Критерии оценки: Код должен быть покрыт нагрузочными тестами, приведены оценки планов запроса. Написано относительно сложно, суть, как я понимаю, необходимо написать на java какую-нибудь простую реализацию: класс, который будет отслеживать изменения данных. Я гуглил-гуглил и так и этак. Кто-то предлагает на основе анализа журнала транзакций, использовать механизм триггеров. Вроде бы в MS Sql Server и в postgresql есть какие-то встроенные инструменты для этого, кто то предлагал делать это посредством контрольных сумм, в то же время чего-то простого доступного мне найти не удалось. Может быть есть возможность подсказать? 0

@xoraxax 3639 / 2971 / 918 Регистрация: 05.07.2013 Сообщений: 14,220
	28.01.2020, 22:36
	Судя по всему от тебя хотят, чтобы ты поработал с метаданными бд. Читаешь метаданные, сохраняешь в каком то формате, ставишь таймштамп... Профит. Но вообще описание упоротое какое то, микросервисы, какая то общая база, у которой меняется схема, причем как то отдельно от всех микроскрвисов - какой то норкоман писал, поэтому иди уточняй чо хотят. 0

@korvin_ 4575 / 2774 / 491 Регистрация: 28.04.2012 Сообщений: 8,764
	29.01.2020, 00:24
	GrossmasteR, «В крупной системе, реализующей минросервисную архитектуру часто» используют CQRS, Event Sourcing, DDD и EventBus а не перечисленные в задании костыли, подпорки и велосипеды. 0

@KEKCoGEN 2399 / 2224 / 565 Регистрация: 28.12.2010 Сообщений: 8,672
	29.01.2020, 13:54
	Это вроде тестовое задание в какой-то конторе. Мелькало уже тут. 0

@korvin_ 4575 / 2774 / 491 Регистрация: 28.04.2012 Сообщений: 8,764
	29.01.2020, 16:39
	xoraxax, микросервисы же ) На ютубе есть какие-то доклады про практическое применение 0

@xoraxax 3639 / 2971 / 918 Регистрация: 05.07.2013 Сообщений: 14,220
	29.01.2020, 17:06
	korvin_, я, помнится, после попыток понять, что пишет об этом фаулер, как раз на ютюб ходил. Интересно, конечно, но так и не возникало мысли, что "вот в том то проекте было бы круто запилить cqrs", наверно, не дорос. 0